PwC 的 AI 失誤證明：驗證比提示工程更重要

PwC 的 AI 失誤說明，在工作場景裡，比起把 prompt 寫得漂亮，更重要的是驗證 AI 輸出是否正確。

Prompt engineering 有用，但在職場裡，真正決定 AI 是幫忙還是闖禍的，是驗證能力。

PwC 那次廣受討論的 AI 失誤，正好把問題講得很清楚：模型能講得流暢，不代表答案就是對的。當一家流程嚴謹、專業深厚的公司都可能把錯誤 AI 輸出送進工作流，瓶頸就不再是「怎麼把模型問得更會答」，而是「怎麼確認它經得起事實、政策與判斷的檢查」。

第一個論點

驗證比巧妙提示更重要，因為錯誤會比信心擴散得更快。AI 系統的設計目標是產生看起來合理的文字，不是保證真實的答案。你可以用更好的 prompt 改善語氣、結構和相關性，但核心內容仍可能錯得很完整。這在工作場合不是小瑕疵，而是風險放大器，因為輸出越順、越像樣，團隊就越容易停止檢查。

看日常商務場景就知道了。財務團隊請模型摘要合約、招募團隊用它篩履歷、分析師拿它寫備忘錄，失敗模式都一樣：內容看起來已經可以交差。真正的問題往往不是語句不通，而是漏掉條款、捏造事實、使用過時數字，或把偏見包裝成結論。Prompt 只能把草稿做得更像樣，驗證才決定這份草稿能不能真的上桌。

第二個論點

驗證是把 AI 從 demo 變成 workflow 的技能。企業不會為漂亮的 prompt 付費，企業付費的是可靠的決策。這也是為什麼高價值的 AI 使用者，越來越像編輯、稽核員和測試工程師：他們把輸出和原始資料對照，做多重檢查，知道什麼時候要阻止模型被誤當成真相來源。這不是少數人的習慣，而是讓 AI 可以規模化上線的操作層。

看法律、醫療、金融這些高風險場景，成功模式從來不是某個神奇 prompt。真正有效的是一套審核流程：來源對齊、交叉比對、例外處理、升級通報。這些地方最有價值的人，不是最會寫漂亮提示的人，而是能把輸出對回政策或證據的人。因為他們能抓出捏造引用、錯誤假設與不合規建議，避免一個看似完美的答案變成真實損失。

反方可能怎麼說

支持 prompt engineering 的人有一個合理主張：更好的 prompt 確實常常帶來更好的結果，尤其在導入初期更是如此。會寫 prompt 的人，能減少雜訊、改善格式、引導模型完成更貼近需求的任務。對快速運轉的團隊來說，這種速度有實際價值，特別是在還沒有正式流程的階段。

另一個現實原因是，prompting 很容易展示，也很容易教。好 prompt 看起來像槓桿，verification 則像額外成本。對追求快速成果的管理者來說，優先優化能做出漂亮第一版的技能，往往比優化能避免第二次重大失誤的技能更有吸引力。

但這個論點輸在優先順序，不是輸在 usefulness。Prompt 是手段，驗證才是控制系統。當 AI 從寫草稿走向做決策，一次沒查證的錯誤，代價會遠高於十次寫得很好的 prompt。我承認 prompt engineering 仍然有用，但它不是職場裡最有價值的技能；驗證才是，因為只有它能保護組織不被「自信但錯誤」的自動化拖下水。

你能做什麼

如果你是工程師、PM 或創辦人，先把驗證放進流程，再談擴大 AI 使用。要求輸出附來源，對高風險內容保留人工審核，針對幻覺建立測試，並把錯誤率當成延遲或轉換率一樣追蹤。團隊訓練重點也要改成不只問「怎麼把 prompt 寫好」，而是「怎麼證明這個答案是對的」。這個轉向，才會讓 AI 從新奇工具變成可靠基礎設施。