標籤

內容審核

內容審核涵蓋平台如何辨識、標記與阻擋垃圾內容、仿冒資訊與違規素材，從 AI 假歌、仿聲到影片 deepfake 都牽涉其中。它直接影響串流平台、生成式 AI 與社群服務的成本、誤判率與合規風險。

11 篇文章

Meta 用 AI 取代審核員，省錢先上

Meta 正把內容審核交給大型語言模型，部分類別的人工作業可能砍掉 90% 以上。這篇整理它怎麼省錢、風險在哪裡，以及和其他平台的差異。

Meta 想用更多 LLM 取代人工審核，看似省錢提速，實際上是在拿判斷力、信任與治理成本換效率，這筆交換不划算。

Sightengine 最適合處理圖片與影片審核；如果你要的是完整的信任與安全平台，它就不是正解。

AI 生成歌曲正灌爆 Spotify 和 TikTok，平台得更快做標記、驗證與版稅管理。

GGWP 募資 1500 萬美元，想把遊戲聊天審核 AI 帶進出版、電商、廣告與真金白銀平台。

串流平台應該強力封殺 AI 廢料混音，並停止把版稅發給匿名灌水帳號，否則排行榜、版稅與藝人署名都會被系統性扭曲。

AI 已經介入社群媒體的排序、內容產製、審核和假訊息風險，連聊天機器人都在分走使用者注意力。

AI 應用應把 moderation 標記當成訊號，不是自動封鎖令；把每個標記都硬擋，通常只會放大誤殺與產品挫折。

Deezer 指出每天有 5 萬首 AI 歌曲上架。串流平台正面臨假歌、仿聲與垃圾內容灌爆資料庫，音樂人也開始反擊。

OpenAI把數萬條有害文本交給人工標註，再訓練內容過濾器。這篇拆開它的流程、成本、誤殺率與產業脈絡。

OpenAI 上線不到半年就關閉 AI 影片 App Sora，連帶取消原本價值 10 億美元的 Disney 合作案。表面上是產品收掉，實際上反映出 deepfake、審核成本、授權風險與商業重心轉移，已經讓 AI 影片比文字工具難做太多。