Meta 把 AI 用在內容審核上，這筆交換不划算

Meta 想用更多 LLM 取代人工審核，看似省錢提速，實際上是在拿判斷力、信任與治理成本換效率。

我反對 Meta 把大型語言模型推到內容審核的主決策位置。審核不是一般分類問題，而是高風險判斷系統：一則貼文被誤刪、一次威脅被漏掉、一次執法失準，都會直接變成信任危機。當平台每天要處理的內容以億計，速度很重要，但速度不能凌駕於語境、文化與例外情境之上。

第一個論點

內容審核最難的地方，不是辨識字面，而是理解意圖。引用仇恨言論來批判它、諷刺政治口號、或是跨地區才看得懂的迷因，對模型來說都可能是同一類高風險訊號。這不是細節瑕疵，而是整個系統的核心限制。模型擅長找模式，不擅長判斷說話者到底是在支持、反諷，還是在轉述。

過去平台已經多次證明，過度自動化會把正常內容誤判成違規。疫情期間，主流平台的自動系統曾反覆移除合法的健康討論、新聞報導與諷刺內容，原因就是它們碰上了被封鎖主題的字面特徵。這些錯誤不只是惹惱使用者，還會造成寒蟬效應，讓人不敢發言。LLM 比舊式規則引擎更會讀語境，但它們仍會在大規模場景下自信地犯錯。

第二個論點

審核系統的評價標準，不是平均準確率，而是最糟糕的可見失誤。一次被放大的誤刪，尤其發生在記者、創作者、倡議者或廣告主身上，就足以演變成公關災難。Meta 不需要一個在 benchmark 上看起來不錯的模型，它需要的是一個能承受數百萬人檢視、能說明理由、能被申訴機制校正的治理系統。

更現實的是，過度自動化通常只是把成本往後移。公司前期省下人力，後面卻要付出申訴處理、政策例外、人工覆核與聲譽修補的代價。X 這幾年的經驗已經很清楚地示範：當使用者相信執法是黑箱、標準不一致，信任會比吞吐量更快崩壞。Meta 的規模更大、資源更多，但規模不會消除這個問題，只會放大一次失誤的外溢效果。

反方可能怎麼說

最強的反對意見其實很合理：人工審核無法線性擴張。Meta 面對的是多語言、多格式、多法域的海量內容，真人審核員昂貴、反應慢，還要承受大量有害內容的心理負擔。LLM 可以先做分流，把常見垃圾訊息、重複濫用、明顯詐騙先擋掉，讓人力集中在最難的案件上。

這個論點不是空話。對低風險內容來說，自動化確實有價值，例如垃圾訊息、重複帳號濫用、明顯詐騙、部分血腥內容，機器先篩掉通常比人眼更快，也更一致。若 Meta 把 LLM 放在第一道篩選，讓人工處理申訴與敏感類別，效率可以提升，而且不必完全放棄控制權。

但界線就在這裡，而且很硬。只要 Meta 把模型當成有爭議言論的主要裁決者，它交換掉的就不只是速度，而是正當性。正確的架構不是「AI 取代人」，而是「AI 負責排序，人負責裁決」。一旦跨過這條線，最值得被保護的案例反而最容易出錯。

你能做什麼

如果你是工程師、PM 或創辦人，做審核工具時要設計的是升級機制，不是替代機制。讓模型負責風險排序、案件聚類、初步標記與重複濫用偵測，但把模糊、政治、文化敏感或高觸及內容留給人工決定。把誤判率、申訴翻案率、處理時延與透明度列為核心指標，別把「自動化率」當成唯一成功標準。內容審核真正要追求的，不是最高效率，而是能長期維持的合法性與信任。