[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"article-llm-generalization-shortest-path-scale-zh":3,"tags-llm-generalization-shortest-path-scale-zh":30,"related-lang-llm-generalization-shortest-path-scale-zh":31,"related-posts-llm-generalization-shortest-path-scale-zh":35,"series-research-46ad5553-2eab-41b1-8602-82bf7fb94933":72},{"id":4,"title":5,"content":6,"summary":7,"source":8,"source_url":9,"author":10,"image_url":11,"keywords":12,"language":18,"translated_content":10,"views":19,"is_premium":20,"created_at":21,"updated_at":21,"cover_image":11,"published_at":22,"rewrite_status":23,"rewrite_error":10,"rewritten_from_id":24,"slug":25,"category":26,"related_article_id":27,"status":28,"google_indexed_at":29,"x_posted_at":10},"46ad5553-2eab-41b1-8602-82bf7fb94933","LLM 會看地圖，卻撐不住長度","\u003Cp>LLM 真的有學會推理，還是只是剛好吃到熟悉題型？這篇 \u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2604.15306\">Generalization in LLM Problem Solving: The Case of the Shortest Path\u003C\u002Fa> 用一個很乾淨的合成最短路徑環境，來拆解這個問題。作者不是只看模型會不會解題一次，而是把「換一張沒看過的地圖」和「把題目拉長」分開測，想知道模型到底是在泛化，還是在某個範圍內碰巧表現好。\u003C\u002Fp>\u003Cp>這個切法很重要。因為現實裡，LLM 的表現常常混著很多因素：訓練資料看了多少、是監督式學習還是強化學習、推理時有沒有額外技巧。這些東西都可能把結果撐起來，也可能把真正的能力遮住。這篇論文的價值，就是把變因壓到最少，讓大家比較清楚看到模型到底在哪裡會過關，在哪裡會崩。\u003C\u002Fp>\u003Ch2>它想解的痛點是什麼\u003C\u002Fh2>\u003Cp>這篇研究在問的，不是「LLM 能不能解一題」。那種問題太容易被表面成績誤導。真正麻煩的是：模型有沒有學到一套可以重複使用的方法，遇到新輸入時還能維持住？如果只是對訓練中看過的型態反應很好，那其實不算真的泛化。\u003C\u002Fp>\n\u003Cfigure class=\"my-6\">\u003Cimg src=\"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776406013309-pvmm.png\" alt=\"LLM 會看地圖，卻撐不住長度\" class=\"rounded-xl w-full\" loading=\"lazy\" \u002F>\u003C\u002Ffigure>\n\u003Cp>作者選的是經典的 sequ\u003Ca href=\"\u002Fnews\u002Fmm-webagent-hierarchical-multimodal-webpages-zh\">ent\u003C\u002Fa>ial optimization 任務，也就是最短路徑規劃。這類任務很適合拿來做研究，因為規則清楚、環境可控，而且可以把不同型態的泛化拆開看。對開發者來說，這比拿一個大而雜的 benchmark 來得有用，因為你知道模型失敗時，問題比較可能出在哪一層。\u003C\u002Fp>\u003Cp>更白話一點說，這篇論文不是在問「模型聰不聰明」，而是在問「模型學到的是可重用流程，還是只是在熟悉範圍內看起來很會」。\u003C\u002Fp>\u003Ch2>方法怎麼做，才看得出差別\u003C\u002Fh2>\u003Cp>研究用的是合成地圖與最短路徑任務。因為環境是自己設計的，作者可以精準控制訓練分佈，再把測試拆成兩個互相獨立的方向來看。\u003C\u002Fp>\u003Cul>\u003Cli>\u003Cstrong>Spatial transfer\u003C\u002Fstrong>：模型能不能處理訓練時沒看過的新地圖。\u003C\u002Fli>\u003Cli>\u003Cstrong>Length scaling\u003C\u002Fstrong>：模型能不能處理比訓練時更長的路徑，也就是更長的推理鏈。\u003C\u002Fli>\u003C\u002Ful>\u003Cp>這個拆法很有意義。很多模型看起來「會泛化」，其實只是對某些版型很熟。換到新地圖，它可能還行；但只要路徑變長、步驟變多，內部推理就開始不穩。反過來也一樣，有些模型能維持一定的步驟邏輯，卻一遇到陌生布局就卡住。把這兩件事分開，才知道失敗到底是出在資料分佈，還是出在長鏈推理本身。\u003C\u002Fp>\u003Cp>作者也把整條訓練與推理流程一起看。他們觀察資料覆蓋度、強化學習，以及推理時的 scaling 各自會怎麼影響結果。這讓文章不只是描述模型好不好，而是更像在找：到底是哪一段流程決定了能力上限。\u003C\u002Fp>\u003Ch2>論文實際證明了什麼\u003C\u002Fh2>\u003Cp>這篇摘要最清楚的結論，是結果呈現明顯分裂。模型在 spatial transfer 上表現不錯，代表它們能把學到的東西搬到沒看過的地圖上。可是當問題長度增加時，模型就會失手，而且這種失敗是\u003Ca href=\"\u002Fnews\u002Fwhite-house-backs-stablecoin-yield-fight-zh\">穩定\u003C\u002Fa>出現的。\u003C\u002Fp>\n\u003Cfigure class=\"my-6\">\u003Cimg src=\"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776406015378-x5jz.png\" alt=\"LLM 會看地圖，卻撐不住長度\" class=\"rounded-xl w-full\" loading=\"lazy\" \u002F>\u003C\u002Ffigure>\n\u003Cp>作者把這個問題歸因於 recursive instability，也就是遞迴式推理在更長的步驟中會變得不穩。這代表模型不是完全不會想，而是當它需要持續維持一連串中間狀態時，流程會慢慢失真。換句話說，能跨地圖，不代表能撐長度。這兩種能力不是同一件事。\u003C\u002Fp>\u003Cp>這裡還有一個很實用的發現：資料覆蓋度會設定能力邊界，強化學習可以讓訓練更穩，但不會把這個邊界往外推。推理時的 scaling 也能幫忙，但救不了和長度 scaling 有關的失敗模式。摘要裡沒有公開完整 benchmark 數字，所以這些判斷在目前提供的材料中是定性的，不是數值型結論。\u003C\u002Fp>\u003Cp>對工程端來說，這個訊息很直接：訓練更久、decode 更聰明，不一定等於模型真的能處理更長的決策鏈。你可能只是把原本能做的題目做得更穩，卻沒有改變它能處理的問題尺度。\u003C\u002Fp>\u003Ch2>對開發者的實際影響\u003C\u002Fh2>\u003Cp>如果你在做 LLM 代理、路徑規劃、搜尋、排程，或任何多步驟決策系統，這篇研究會提醒你一件事：模型在相似輸入上表現好，不代表它能扛更難的版本。很多 production 問題不是「模型完全不會」，而是「模型在長一點、複雜一點的情境下就開始失真」。\u003C\u002Fp>\u003Cp>這篇論文的合成環境雖然不是現實世界，但它提供了一個很重要的診斷框架。你要先分清楚，失敗是因為分佈轉移、訓練覆蓋不足，還是推理鏈條一拉長就壞掉。這三種狀況對應的解法很可能完全不同。\u003C\u002Fp>\u003Cp>另外，這篇也不是在幫強化學習背書。它的結果比較像在說：RL 可以讓訓練過程更穩，但不保證你拿到的是更高的問題解決上限。對算力有限的團隊來說，這很重要，因為你要知道該把資源花在什麼地方。只是把模型調得更順，未必能換來你真正要的長程泛化。\u003C\u002Fp>\u003Ch2>限制與還沒回答的問題\u003C\u002Fh2>\u003Cp>這篇研究最大的優點，也是它的限制，就是控制得很乾淨。合成最短路徑環境讓因果關係比較好看清楚，但它終究不是實際的軟體流程、代理式工作流，或開放式推理任務。它告訴我們的是某一類可組合的 sequential optimization 問題，不是所有 LLM 任務的總結論。\u003C\u002Fp>\u003Cp>另外，根據目前提供的摘要資料，沒有看到模型名稱、完整 benchmark 數字或更細的實驗設定。所以我們可以很有把握地說方向，但還不能從這份 raw 資料直接推到效應量有多大。這也代表讀者在解讀時要保留一點空間，不要把定性結果誤當成全面結論。\u003C\u002Fp>\u003Cp>不過，這篇文章還是把一個常見的錯覺拆開了：模型在一個維度上泛化，不代表它在另一個維度也行。你不能只測「有沒有看過類似例子」，還要測「問題拉長後會不會崩」。對很多實作團隊來說，這比單看 held-out examp\u003Ca href=\"\u002Fnews\u002Fcircle-ceo-eyes-yuan-backed-stablecoin-demand-zh\">le\u003C\u002Fa>s 更接近真實風險。\u003C\u002Fp>\u003Cp>如果你正在評估 LLM 是否適合拿來做規劃或多步驟推理，這篇研究的建議其實很簡單：泛化測試要分面向做。看它能不能換地圖，也要看它能不能撐長度。少了其中一個，你很可能會高估模型真正能上線的能力。\u003C\u002Fp>","這篇合成最短路徑研究把「會換地圖」和「能拉長題目」拆開看，結果發現 LLM 能跨地圖泛化，卻在長度變長時因遞迴推理不穩而失手。","arxiv.org","https:\u002F\u002Farxiv.org\u002Fabs\u002F2604.15306",null,"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776406013309-pvmm.png",[13,14,15,16,17],"LLM","generalization","shortest path","reinforcement learning","recursive reasoning","zh",0,false,"2026-04-17T06:06:33.258278+00:00","2026-04-17T06:06:33.036+00:00","done","1ae03eca-98e9-4dc6-9ff3-59f7d9cf3799","llm-generalization-shortest-path-scale-zh","research","443c85ce-62b3-4336-ad93-7a8a1538d271","published","2026-04-17T09:00:09.782+00:00",[],{"id":27,"slug":32,"title":33,"language":34},"llm-generalization-shortest-path-scale-en","Why LLMs Generalize on Maps but Fail on Scale","en",[36,42,48,54,60,66],{"id":37,"slug":38,"title":39,"cover_image":40,"image_url":40,"created_at":41,"category":26},"7a04d752-3f1a-4df7-b7c5-8bcb1e69c565","bounded-ratio-reinforcement-learning-ppo-zh","BRRL 重新定義 PPO 剪裁目標","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776751794578-t5j7.png","2026-04-21T06:09:39.661696+00:00",{"id":43,"slug":44,"title":45,"cover_image":46,"image_url":46,"created_at":47,"category":26},"4700e9ba-80dd-47e9-9665-7461287fbbcb","sessa-attention-inside-state-space-memory-zh","Sessa 把注意力放進狀態空間記憶","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776751615013-ugp9.png","2026-04-21T06:06:37.215599+00:00",{"id":49,"slug":50,"title":51,"cover_image":52,"image_url":52,"created_at":53,"category":26},"ac5a1a8a-b0f6-46f6-85f5-47f01b5f6c51","mathnet-benchmark-math-reasoning-retrieval-zh","MathNet 把數學推理和檢索一起測","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776751441331-oooq.png","2026-04-21T06:03:38.63837+00:00",{"id":55,"slug":56,"title":57,"cover_image":58,"image_url":58,"created_at":59,"category":26},"6b0e0e51-acc2-46dc-a376-6b7fc78f7918","prompt-engineering-becoming-infrastructure-zh","Prompt 工程正在變成基礎設施","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776742218129-fisd.png","2026-04-21T00:15:42.239955+00:00",{"id":61,"slug":62,"title":63,"cover_image":64,"image_url":64,"created_at":65,"category":26},"b82d0062-8cef-4869-8a1e-e7a314d24478","why-prompt-standards-matter-for-ai-work-zh","AI 工作為何需要提示標準","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776738622916-xipq.png","2026-04-21T00:12:38.635108+00:00",{"id":67,"slug":68,"title":69,"cover_image":70,"image_url":70,"created_at":71,"category":26},"9ee3e460-4acf-4a82-b9d5-ae0ac3a09c90","mythos-anthropic-unreleased-ai-model-explained-zh","Mythos 為何沒公開？","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776738631894-ih8j.png","2026-04-21T00:03:42.694348+00:00",[73,78,83,88,93,98,103,108,113,118],{"id":74,"slug":75,"title":76,"created_at":77},"f18dbadb-8c59-4723-84a4-6ad22746c77a","deepmind-bets-on-continuous-learning-ai-2026-zh","DeepMind 押注 2026 連續學習 AI","2026-03-26T08:16:02.367355+00:00",{"id":79,"slug":80,"title":81,"created_at":82},"f4a106cb-02a6-4508-8f39-9720a0a93cee","ml-papers-of-the-week-github-research-desk-zh","每週 ML 論文清單，為何紅到 GitHub","2026-03-27T01:11:39.284175+00:00",{"id":84,"slug":85,"title":86,"created_at":87},"c4f807ca-4e5f-47f1-a48c-961cf3fc44dc","ai-ml-conferences-to-watch-in-2026-zh","2026 AI 研討會投稿時程整理","2026-03-27T01:51:53.874432+00:00",{"id":89,"slug":90,"title":91,"created_at":92},"9f50561b-aebd-46ba-94a8-363198aa7091","openclaw-agents-manipulated-self-sabotage-zh","OpenClaw Agent 會自己搞砸自己","2026-03-28T03:03:18.786425+00:00",{"id":94,"slug":95,"title":96,"created_at":97},"11f22e92-7066-4978-a544-31f5f2156ec6","vega-learning-to-drive-with-natural-language-instructions-zh","Vega：使用自然語言指示進行自駕車控制","2026-03-28T14:54:04.847912+00:00",{"id":99,"slug":100,"title":101,"created_at":102},"a4c7cfec-8d0e-4fec-93cf-1b9699a530b8","drive-my-way-en-zh","Drive My Way：個性化自駕車風格的實現","2026-03-28T14:54:26.207495+00:00",{"id":104,"slug":105,"title":106,"created_at":107},"dec02f89-fd39-41ba-8e4d-11ede93a536d","training-knowledge-bases-with-writeback-rag-zh","用 WriteBack-RAG 強化知識庫提升檢索效能","2026-03-28T14:54:45.775606+00:00",{"id":109,"slug":110,"title":111,"created_at":112},"3886be5c-a137-40cc-b9e2-0bf18430c002","packforcing-efficient-long-video-generation-method-zh","PackForcing：短影片訓練也能生成長影片","2026-03-28T14:55:02.688141+00:00",{"id":114,"slug":115,"title":116,"created_at":117},"72b90667-d930-4cc9-8ced-aaa0f8968d44","pixelsmile-toward-fine-grained-facial-expression-editing-zh","PixelSmile：提升精細臉部表情編輯的新方法","2026-03-28T14:55:20.678181+00:00",{"id":119,"slug":120,"title":121,"created_at":122},"cf046742-efb2-4753-aef9-caed5da5e32e","adaptive-block-scaled-data-types-zh","IF4：神經網路量化的聰明選擇","2026-03-31T06:00:36.990273+00:00"]