[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"article-teaching-llms-when-to-trust-context-zh":3,"article-related-teaching-llms-when-to-trust-context-zh":29,"series-research-66a9a233-e2fe-4726-a3e7-f01a6b47d100":75},{"id":4,"slug":5,"title":6,"content":7,"summary":8,"source":9,"source_url":10,"author":11,"image_url":12,"cover_image":12,"category":13,"language":14,"translated_content":11,"related_article_id":15,"keywords":16,"key_takeaways":22,"views":26,"created_at":27,"published_at":28,"topic_cluster_id":11},"66a9a233-e2fe-4726-a3e7-f01a6b47d100","teaching-llms-when-to-trust-context-zh","教 LLM 何時信上下文","\u003Cp data-speakable=\"summary\">四種對照條件讓模型學會選擇性信任上下文，減少被誤導帶歪，同時保留正確上下文的幫助。\u003C\u002Fp>\u003Cul>\u003Cli>\u003Cstrong>研究機構\u003C\u002Fstrong>：arXiv 摘要未明確標註\u003C\u002Fli>\u003Cli>\u003Cstrong>核心數據\u003C\u002Fstrong>：每個推理題有 4 種對照條件\u003C\u002Fli>\u003Cli>\u003Cstrong>突破點\u003C\u002Fstrong>：選擇性信任訓練\u003C\u002Fli>\u003C\u002Ful>\u003Cp>這篇論文要解的，不是單純「怎麼讓 \u003Ca href=\"\u002Ftag\u002Fllm\">LLM\u003C\u002Fa> 不吃錯資料」，而是更細的問題：模型到底該什麼時候信上下文，什麼時候不要信。對做檢索增強、工具呼叫、文件問答的人來說，這個差別很大。因為外部上下文通常有用，但只要混進一段誤導文字，原本正確的答案就可能整個翻車。\u003C\u002Fp>\u003Cp>作者的觀點很直接。只測「壞上下文」不夠。你可能訓練出一個很會拒絕上下文的模型，看起來穩，但它也會在上下文真的正確時裝死。這篇摘要要推的，是「選擇性信任」而不是「全面防禦」。\u003C\u002Fp>\u003Ch2>這篇在修哪個痛點\u003C\u002Fh2>\u003Cp>在實務系統裡，LLM 讀到的外部資訊通常不是完全可靠的。檢索回來的段落可能不相關，工具輸出可能過時，使用者貼的筆記也可能有錯。問題不是上下文一定壞，而是模型要能分辨它是不是值得用。\u003C\u002Fp>\n\u003Cfigure class=\"my-6\">\u003Cimg src=\"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1786082585395-85yg.png\" alt=\"教 LLM 何時信上下文\" class=\"rounded-xl w-full\" loading=\"lazy\" \u002F>\u003C\u002Ffigure>\n\u003Cp>如果評測只看模型遇到誤導上下文時會\u003Ca href=\"\u002Fnews\u002Fai-agents-will-expose-web3-weakest-systems-zh\">不會\u003C\u002Fa>答錯，很容易把「完全不信上下文」誤判成好事。這種模型在某些\u003Ca href=\"\u002Fnews\u002Fcuda-moat-tested-by-ai-coding-agents-zh\">測試\u003C\u002Fa>裡會顯得很穩，因為它乾脆把上下文當空氣。但這不是好系統。真正可用的模型，應該在上下文可信時能吃進去，在上下文有問題時能踩煞車。\u003C\u002Fp>\u003Cp>摘要還提到，作者做了一個 comprehensive \u003Ca href=\"\u002Ftag\u002Fbenchmark\">benchmark\u003C\u002Fa> study，發現被誤導訊號影響的問題是普遍存在的。也就是說，這不是某一類模型或某一個資料集的邊角案例。不過摘要沒有公開完整 benchmark 數字，所以看不到細部表格，也不能從摘要直接推每個模型的差距。\u003C\u002Fp>\u003Ch2>MIST 到底在做什麼\u003C\u002Fh2>\u003Cp>第一個貢獻是 MIST，一個人工標註的 benchmark。它的設計重點不是只給一個「壞上下文」版本，而是把每個推理題做成四種匹配條件：clean、misleading、correct-context、irrelevant-context。這樣一來，研究者就能比較同一題在不同上下文狀態下，模型的反應到底怎麼變。\u003C\u002Fp>\u003Cp>這個設計很重要，因為它把幾種常被混在一起的情況拆開了。上下文可能是正確的，可能是誤導的，也可能根本無關。你如果只測其中一種，就很難知道模型學到的是「會判斷證據」，還是只是「學會一律忽略外部資訊」。\u003C\u002Fp>\u003Cp>對工程實作來說，MIST 的價值在於它逼你把評測問題問清楚。不是只問準不準，而是問：錯的上下文會不會把對的答案帶歪？對的上下文有沒有真的幫上忙？無關上下文會不會干擾模型？這些問題要分開看，才知道模型到底哪裡弱。\u003C\u002Fp>\u003Cp>摘要沒有交代 MIST 的完整規模、標註成本，或題目分布，所以目前只能確定它是以人工標註、四種對照條件組成的 benchmark。其他細節，摘要沒有公開。\u003C\u002Fp>\u003Ch2>SC2W 在量什麼\u003C\u002Fh2>\u003Cp>第二個貢獻是 SC2W，一個成對指標。它量的不是一般的整體準確率，而是「一個原本在 clean 條件下答對的題目，遇到誤導上下文後，有多少會被翻成錯」。這其實就是這篇論文最在意的失敗模式：clean-correct 被 misleading 搞成 wrong。\u003C\u002Fp>\n\u003Cfigure class=\"my-6\">\u003Cimg src=\"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1786082580241-rbgu.png\" alt=\"教 LLM 何時信上下文\" class=\"rounded-xl w-full\" loading=\"lazy\" \u002F>\u003C\u002Ffigure>\n\u003Cp>這種指標比單看 accuracy 更貼近真實風險。因為在很多上下文系統裡，問題不在於模型完全不會答，而在於它本來答得對，卻被外部訊號硬拗歪。SC2W 就是在抓這種「被上下文帶偏」的翻車率。\u003C\u002Fp>\u003Cp>摘要沒有提供 SC2W 的具體分數，也沒有列出不同模型的數字變化。所以這篇摘要能公開的重點，是指標設計本身，而不是完整 benchmark 成績。就摘要來看，作者想先把「選擇性信任」這件事量化，讓後續訓練有明確目標。\u003C\u002Fp>\u003Cul>\u003Cli>MIST 將同一題拆成四種上下文狀態。\u003C\u002Fli>\u003Cli>SC2W 專門量誤導上下文造成的翻車。\u003C\u002Fli>\u003Cli>評測目標是分辨信任，而不是只比誰最會拒絕。\u003C\u002Fli>\u003C\u002Ful>\u003Ch2>SCOPE 怎麼訓練模型\u003C\u002Fh2>\u003Cp>第三個貢獻是 SCOPE，全名是 Selective Context Preference Optimization。摘要說，它會先挖出 clean-correct 和 misleading-wrong 這類失敗案例，再用標準的 Direct Preference Optimization 目標去做優化。重點不在於換了一個全新的訓練框架，而在於怎麼挑 preference pairs。\u003C\u002Fp>\u003Cp>這裡最關鍵的設計是「平衡」。摘要明確說，這些偏好對是平均分布在四種條件上，而不是只盯著誤導樣本。這很重要。因為如果你只拿壞上下文來訓練，模型很可能學到過度防禦，最後連好上下文也一起拒絕。\u003C\u002Fp>\u003Cp>換句話說，SCOPE 想做的不是讓模型變得更悲觀，而是更會判斷。它希望模型在遇到正確或有用的上下文時，仍然願意利用；但在上下文誤導時，能夠把它擋掉。這種訓練方式看起來很像既有的 preference optimization 管線，所以對開發者來說，門檻不是重新發明一個模型架構，而是重新設計資料對與偏好配對方式。\u003C\u002Fp>\u003Cp>摘要沒有公開 SCOPE 的訓練資料量、超參數或訓練成本，所以目前只能根據文字理解它的核心機制：以 balanced DPO preference pairs 來學「何時該信上下文」。\u003C\u002Fp>\u003Ch2>論文實際證明了什麼\u003C\u002Fh2>\u003Cp>摘要的結果很清楚，但也很克制。作者說，他們在一個 comprehensive benchmark study 裡發現，模型對誤導訊號的敏感性是普遍存在的。也就是說，這不是少數模型才會有的問題，而是整體都值得處理的行為偏差。\u003C\u002Fp>\u003Cp>更重要的是，SCOPE 可以明顯降低 SC2W，而且是在 popular open-sourced models 上做出來的。摘要同時強調，它沒有犧牲模型在 clean、correct 或 irrelevant context 下的準確性。這句話很關鍵，因為很多「抗噪」方法會有副作用：壞上下文少吃了，但好上下文也一起不吃。\u003C\u002Fp>\u003Cp>這篇摘要沒有給出具體下降百分比，也沒有列出每個模型的 benchmark 數字，所以不能把它寫成某個明確的領先幅度。比較穩妥的說法是：作者主張 SCOPE 在降低被誤導翻車的同時，還能保住有用上下文的表現。這正是它想解的 trade-off。\u003C\u002Fp>\u003Cp>從研究角度看，這代表一個評估標準的轉向。不是只問模型能不能抵抗壞訊息，而是問它能不能在「壞訊息、好訊息、無關訊息」之間做出合理選擇。這比單純追求魯棒性更接近真實應用。\u003C\u002Fp>\u003Ch2>對開發者有什麼影響\u003C\u002Fh2>\u003Cp>如果你在做 \u003Ca href=\"\u002Ftag\u002Frag\">RAG\u003C\u002Fa>、文件問答、客服助手，或者任何會把模型知識和外部證據混在一起的系統，這篇的訊息很實用。因為現場問題通常不是「模型會不會答」，而是「它會不會被一段錯上下文帶偏」。\u003C\u002Fp>\u003Cp>這也提醒我們，評測不能只看單一 accuracy。你要知道壞上下文有多容易把對答案翻成錯，也要知道好上下文到底有沒有真的幫助模型。MIST 和 SC2W 的價值，就在於把這兩件事拆開量。\u003C\u002Fp>\u003Cp>對訓練流程來說，SCOPE 的吸引力是它沒有要求你整套重做。摘要看起來，它仍然站在 DPO 這類偏好優化的框架上，只是把偏好對的來源和配比改成圍繞上下文信任來設計。這對已經有 preference tuning 流程的團隊，會比全新架構更容易接上。\u003C\u002Fp>\u003Cp>但限制也很明顯。根據摘要，我們看不到完整 benchmark 表、看不到各模型的細節，也看不到 MIST 的標註規模與成本。摘要也沒有說明這套方法在更多任務類型上的泛化範圍。因此，現在比較適合把它當\u003Ca href=\"\u002Fnews\u002Fcuda-warps-memory-divergence-explained-zh\">成一\u003C\u002Fa>個清楚的方向，而不是已經定案的通用解法。\u003C\u002Fp>\u003Cp>即便如此，這篇論文已經把問題講得很到位：好的上下文不該被一律拒絕，壞的上下文也不該被一律相信。真正該訓練的是判斷力，而不是單純的防禦反射。\u003C\u002Fp>\u003Ch2>結論\u003C\u002Fh2>\u003Cp>MIST 提供了把上下文信任拆開測的 benchmark，SCOPE 則提供了把這種行為直接納入訓練的做法。兩者合在一起，讓「模型會不會被帶歪」這件事，第一次被更精準地量化與優化。\u003C\u002Fp>\u003Cp>對\u003Ca href=\"\u002Ftag\u002F台灣開發者\">台灣開發者\u003C\u002Fa>來說，這篇的實際啟發很直接：如果你的系統會讀外部資訊，就不能只問它能不能忽略噪音。你還得問，它會不會在該相信的時候願意相信。這才是上下文時代真正有用的 LLM。\u003C\u002Fp>","MIST 與 SCOPE 讓模型更會分辨可信上下文，減少被誤導的錯答，同時保住正確上下文帶來的效益。","arxiv.org","https:\u002F\u002Farxiv.org\u002Fabs\u002F2608.06377",null,"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1786082585395-85yg.png","research","zh","cf660b1b-17fc-47e6-ad3a-360fb922ca9e",[17,18,19,20,21],"LLM","context trust","DPO","retrieval-augmented generation","benchmark",[23,24,25],"MIST 用四種上下文條件，讓同一題的信任行為可比較。","SC2W 直接量誤導上下文把正確答案翻成錯的機率。","SCOPE 透過平衡的 DPO 偏好對，降低誤導又保住好上下文。",1,"2026-08-07T06:02:32.567402+00:00","2026-08-07T06:02:32.538+00:00",{"tags":30,"relatedLang":34,"relatedPosts":38},[31,32],{"name":21,"slug":21},{"name":17,"slug":33},"llm",{"id":15,"slug":35,"title":36,"language":37},"teaching-llms-when-to-trust-context-en","Teaching LLMs When to Trust Context","en",[39,45,51,57,63,69],{"id":40,"slug":41,"title":42,"cover_image":43,"image_url":43,"created_at":44,"category":13},"04a3925a-33c0-4954-89b7-41e51365cc40","astra-turns-long-math-tasks-into-multi-agent-work-zh","Astra 把長任務拆成多代理工作","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1786088000695-2qtf.png","2026-08-07T07:32:51.483837+00:00",{"id":46,"slug":47,"title":48,"cover_image":49,"image_url":49,"created_at":50,"category":13},"01da4d83-b580-43fe-a4aa-0e4285e056c0","evidence-linked-feature-engineering-heart-failure-zh","心衰 EHR 特徵工程可追證據","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1786086179831-hiwd.png","2026-08-07T07:02:30.845188+00:00",{"id":52,"slug":53,"title":54,"cover_image":55,"image_url":55,"created_at":56,"category":13},"79a1e441-287d-4bbf-9ec1-5620c8be72a8","tool-calling-as-code-bfcl-v4-zh","工具呼叫用程式碼可能更好","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1786084374600-zgew.png","2026-08-07T06:32:25.624019+00:00",{"id":58,"slug":59,"title":60,"cover_image":61,"image_url":61,"created_at":62,"category":13},"15c28503-3a01-434b-9e62-9038676f5dff","cuda-binaries-turn-ptx-into-elf-you-can-inspect-zh","CUDA 二進位拆成可檢查 ELF","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1786068196777-denz.png","2026-08-07T02:02:53.326675+00:00",{"id":64,"slug":65,"title":66,"cover_image":67,"image_url":67,"created_at":68,"category":13},"a2ae5975-7c35-4094-9d13-922f15cb1034","octolong-cross-repository-code-contexts-zh","OctoLong 用跨倉庫程式脈絡訓練長上下文模型","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1785999778532-gdas.png","2026-08-06T07:02:26.875328+00:00",{"id":70,"slug":71,"title":72,"cover_image":73,"image_url":73,"created_at":74,"category":13},"9ffcddf6-f52b-4ca8-99f5-a927ec5261b4","argus-self-evolving-runtime-long-tasks-zh","Argus：會自我演化的長任務 runtime","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1785997980205-qk1s.png","2026-08-06T06:32:34.986144+00:00",[76,81,86,91,96,101,106,111,116,121],{"id":77,"slug":78,"title":79,"created_at":80},"f18dbadb-8c59-4723-84a4-6ad22746c77a","deepmind-bets-on-continuous-learning-ai-2026-zh","DeepMind 押注 2026 連續學習 AI","2026-03-26T08:16:02.367355+00:00",{"id":82,"slug":83,"title":84,"created_at":85},"f4a106cb-02a6-4508-8f39-9720a0a93cee","ml-papers-of-the-week-github-research-desk-zh","每週 ML 論文清單，為何紅到 GitHub","2026-03-27T01:11:39.284175+00:00",{"id":87,"slug":88,"title":89,"created_at":90},"c4f807ca-4e5f-47f1-a48c-961cf3fc44dc","ai-ml-conferences-to-watch-in-2026-zh","2026 AI 研討會投稿時程整理","2026-03-27T01:51:53.874432+00:00",{"id":92,"slug":93,"title":94,"created_at":95},"cf046742-efb2-4753-aef9-caed5da5e32e","adaptive-block-scaled-data-types-zh","IF4：神經網路量化的聰明選擇","2026-03-31T06:00:36.990273+00:00",{"id":97,"slug":98,"title":99,"created_at":100},"53a0dc54-0371-4e40-8d5e-74e94a73840c","geometry-aware-similarity-metrics-for-neural-representations-zh","超越距離測量：用微分幾何重新理解神經網路","2026-03-31T06:01:01.241968+00:00",{"id":102,"slug":103,"title":104,"created_at":105},"fee7d472-a775-4b1d-bbc2-1e8bca1bbf8b","on-the-fly-repulsion-in-the-contextual-space-for-rich-divers-zh","讓AI繪圖更有創意：用排斥力提升生成多樣性","2026-03-31T06:01:25.439673+00:00",{"id":107,"slug":108,"title":109,"created_at":110},"a9901203-d69b-447b-8854-15d14eab32b4","vision-aided-beam-prediction-cnn-eca-zh","影像輔助波束預測升級 CNN","2026-04-01T10:00:25.8073+00:00",{"id":112,"slug":113,"title":114,"created_at":115},"b55e7dd4-0a24-4b3d-804d-b0309a03f498","triple-band-fss-mimo-antenna-sub-6-ghz-zh","三頻 FSS MIMO 天線瞄準 sub-6 GHz","2026-04-01T13:18:36.857305+00:00",{"id":117,"slug":118,"title":119,"created_at":120},"f68290bd-e7f3-4b30-ba22-dcd4e0130a66","openclaw-1299-repos-eight-weeks-analysis-zh","OpenClaw 1299 個 Repo 的資料解讀","2026-04-02T05:03:45.208411+00:00",{"id":122,"slug":123,"title":124,"created_at":125},"ed9f80eb-eb02-4d35-8ad4-0ddf428751dd","beam-coherence-aware-combining-mmwave-mimo-zh","毫米波 MIMO 的雙階合併法","2026-04-02T05:27:26.897188+00:00"]