設想一個團隊用 agent 完成一個功能:agent 寫規格,依規格寫程式,再寫測試,最後替自己的修改做 review。每一步的輸出都格式完整、語氣專業,測試全綠,review 意見也列得有條有理。團隊按下合併。這是設想,不是事故紀錄,它標出一個常見的形狀:流程上每一道關都過了,但所有關卡的判斷都來自同一個產生內容的來源,沒有任何一關有能力說「不」。
剖析自我評估規則缺乏拒絕能力的困境,形式化推導可稽核狀態轉換的誘因相容不等式,並揭示將阻力訊號轉化為考核指標時機制必然發生的反轉與訊號蒸發。