設想一位資深工程師看一眼錯誤日誌，就說「這是連線池被耗盡了」，而且多半是對的。她說不太清楚自己是怎麼看出來的，只知道這種日誌她看過很多次，其中幾次讓她熬了整夜。這種說不清楚、卻能可靠地引導判斷的知識，是工程組織最重要也最難傳遞的資產之一。本文討論的是：當這種知識的養成途徑，以及它所依賴的公共知識來源，都因為模型生成而改變時，組織會在哪裡失去發現自己錯誤的能力。
設想一位郵局分局長某天結帳，終端機顯示帳上短少 3,000 英鎊。她確定自己沒有拿錢，也找不到錯在哪裡。她能怎麼證明？她看不到系統的原始碼，看不到資料庫的交易紀錄，也不知道遠在另一個城市的工程師能不能從後台改動她的帳。她手上唯一的證據是自己的證詞，而對方手上的證據是一張由電腦印出來的帳表。