[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"article-llm-generalization-shortest-path-scale-zh":3,"article-related-llm-generalization-shortest-path-scale-zh":25,"series-research-46ad5553-2eab-41b1-8602-82bf7fb94933":73},{"id":4,"slug":5,"title":6,"content":7,"summary":8,"source":9,"source_url":10,"author":11,"image_url":12,"cover_image":12,"category":13,"language":14,"translated_content":11,"related_article_id":15,"keywords":16,"key_takeaways":11,"views":22,"created_at":23,"published_at":24,"topic_cluster_id":11},"46ad5553-2eab-41b1-8602-82bf7fb94933","llm-generalization-shortest-path-scale-zh","LLM 會看地圖，卻撐不住長度","\u003Cp>LLM 真的有學會推理，還是只是剛好吃到熟悉題型？這篇 \u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2604.15306\">Generalization in LLM Problem Solving: The Case of the Shortest Path\u003C\u002Fa> 用一個很乾淨的合成最短路徑環境，來拆解這個問題。作者不是只看模型會不會解題一次，而是把「換一張沒看過的地圖」和「把題目拉長」分開測，想知道模型到底是在泛化，還是在某個範圍內碰巧表現好。\u003C\u002Fp>\u003Cp>這個切法很重要。因為現實裡，LLM 的表現常常混著很多因素：訓練資料看了多少、是監督式學習還是強化學習、推理時有沒有額外技巧。這些東西都可能把結果撐起來，也可能把真正的能力遮住。這篇論文的價值，就是把變因壓到最少，讓大家比較清楚看到模型到底在哪裡會過關，在哪裡會崩。\u003C\u002Fp>\u003Ch2>它想解的痛點是什麼\u003C\u002Fh2>\u003Cp>這篇研究在問的，不是「LLM 能不能解一題」。那種問題太容易被表面成績誤導。真正麻煩的是：模型有沒有學到一套可以重複使用的方法，遇到新輸入時還能維持住？如果只是對訓練中看過的型態反應很好，那其實不算真的泛化。\u003C\u002Fp>\n\u003Cfigure class=\"my-6\">\u003Cimg src=\"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776406013309-pvmm.png\" alt=\"LLM 會看地圖，卻撐不住長度\" class=\"rounded-xl w-full\" loading=\"lazy\" \u002F>\u003C\u002Ffigure>\n\u003Cp>作者選的是經典的 sequ\u003Ca href=\"\u002Fnews\u002Fmm-webagent-hierarchical-multimodal-webpages-zh\">ent\u003C\u002Fa>ial optimization 任務，也就是最短路徑規劃。這類任務很適合拿來做研究，因為規則清楚、環境可控，而且可以把不同型態的泛化拆開看。對開發者來說，這比拿一個大而雜的 benchmark 來得有用，因為你知道模型失敗時，問題比較可能出在哪一層。\u003C\u002Fp>\u003Cp>更白話一點說，這篇論文不是在問「模型聰不聰明」，而是在問「模型學到的是可重用流程，還是只是在熟悉範圍內看起來很會」。\u003C\u002Fp>\u003Ch2>方法怎麼做，才看得出差別\u003C\u002Fh2>\u003Cp>研究用的是合成地圖與最短路徑任務。因為環境是自己設計的，作者可以精準控制訓練分佈，再把測試拆成兩個互相獨立的方向來看。\u003C\u002Fp>\u003Cul>\u003Cli>\u003Cstrong>Spatial transfer\u003C\u002Fstrong>：模型能不能處理訓練時沒看過的新地圖。\u003C\u002Fli>\u003Cli>\u003Cstrong>Length scaling\u003C\u002Fstrong>：模型能不能處理比訓練時更長的路徑，也就是更長的推理鏈。\u003C\u002Fli>\u003C\u002Ful>\u003Cp>這個拆法很有意義。很多模型看起來「會泛化」，其實只是對某些版型很熟。換到新地圖，它可能還行；但只要路徑變長、步驟變多，內部推理就開始不穩。反過來也一樣，有些模型能維持一定的步驟邏輯，卻一遇到陌生布局就卡住。把這兩件事分開，才知道失敗到底是出在資料分佈，還是出在長鏈推理本身。\u003C\u002Fp>\u003Cp>作者也把整條訓練與推理流程一起看。他們觀察資料覆蓋度、強化學習，以及推理時的 scaling 各自會怎麼影響結果。這讓文章不只是描述模型好不好，而是更像在找：到底是哪一段流程決定了能力上限。\u003C\u002Fp>\u003Ch2>論文實際證明了什麼\u003C\u002Fh2>\u003Cp>這篇摘要最清楚的結論，是結果呈現明顯分裂。模型在 spatial transfer 上表現不錯，代表它們能把學到的東西搬到沒看過的地圖上。可是當問題長度增加時，模型就會失手，而且這種失敗是\u003Ca href=\"\u002Fnews\u002Fwhite-house-backs-stablecoin-yield-fight-zh\">穩定\u003C\u002Fa>出現的。\u003C\u002Fp>\n\u003Cfigure class=\"my-6\">\u003Cimg src=\"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776406015378-x5jz.png\" alt=\"LLM 會看地圖，卻撐不住長度\" class=\"rounded-xl w-full\" loading=\"lazy\" \u002F>\u003C\u002Ffigure>\n\u003Cp>作者把這個問題歸因於 recursive instability，也就是遞迴式推理在更長的步驟中會變得不穩。這代表模型不是完全不會想，而是當它需要持續維持一連串中間狀態時，流程會慢慢失真。換句話說，能跨地圖，不代表能撐長度。這兩種能力不是同一件事。\u003C\u002Fp>\u003Cp>這裡還有一個很實用的發現：資料覆蓋度會設定能力邊界，強化學習可以讓訓練更穩，但不會把這個邊界往外推。推理時的 scaling 也能幫忙，但救不了和長度 scaling 有關的失敗模式。摘要裡沒有公開完整 benchmark 數字，所以這些判斷在目前提供的材料中是定性的，不是數值型結論。\u003C\u002Fp>\u003Cp>對工程端來說，這個訊息很直接：訓練更久、decode 更聰明，不一定等於模型真的能處理更長的決策鏈。你可能只是把原本能做的題目做得更穩，卻沒有改變它能處理的問題尺度。\u003C\u002Fp>\u003Ch2>對開發者的實際影響\u003C\u002Fh2>\u003Cp>如果你在做 LLM 代理、路徑規劃、搜尋、排程，或任何多步驟決策系統，這篇研究會提醒你一件事：模型在相似輸入上表現好，不代表它能扛更難的版本。很多 production 問題不是「模型完全不會」，而是「模型在長一點、複雜一點的情境下就開始失真」。\u003C\u002Fp>\u003Cp>這篇論文的合成環境雖然不是現實世界，但它提供了一個很重要的診斷框架。你要先分清楚，失敗是因為分佈轉移、訓練覆蓋不足，還是推理鏈條一拉長就壞掉。這三種狀況對應的解法很可能完全不同。\u003C\u002Fp>\u003Cp>另外，這篇也不是在幫強化學習背書。它的結果比較像在說：RL 可以讓訓練過程更穩，但不保證你拿到的是更高的問題解決上限。對算力有限的團隊來說，這很重要，因為你要知道該把資源花在什麼地方。只是把模型調得更順，未必能換來你真正要的長程泛化。\u003C\u002Fp>\u003Ch2>限制與還沒回答的問題\u003C\u002Fh2>\u003Cp>這篇研究最大的優點，也是它的限制，就是控制得很乾淨。合成最短路徑環境讓因果關係比較好看清楚，但它終究不是實際的軟體流程、代理式工作流，或開放式推理任務。它告訴我們的是某一類可組合的 sequential optimization 問題，不是所有 LLM 任務的總結論。\u003C\u002Fp>\u003Cp>另外，根據目前提供的摘要資料，沒有看到模型名稱、完整 benchmark 數字或更細的實驗設定。所以我們可以很有把握地說方向，但還不能從這份 raw 資料直接推到效應量有多大。這也代表讀者在解讀時要保留一點空間，不要把定性結果誤當成全面結論。\u003C\u002Fp>\u003Cp>不過，這篇文章還是把一個常見的錯覺拆開了：模型在一個維度上泛化，不代表它在另一個維度也行。你不能只測「有沒有看過類似例子」，還要測「問題拉長後會不會崩」。對很多實作團隊來說，這比單看 held-out examp\u003Ca href=\"\u002Fnews\u002Fcircle-ceo-eyes-yuan-backed-stablecoin-demand-zh\">le\u003C\u002Fa>s 更接近真實風險。\u003C\u002Fp>\u003Cp>如果你正在評估 LLM 是否適合拿來做規劃或多步驟推理，這篇研究的建議其實很簡單：泛化測試要分面向做。看它能不能換地圖，也要看它能不能撐長度。少了其中一個，你很可能會高估模型真正能上線的能力。\u003C\u002Fp>","這篇合成最短路徑研究把「會換地圖」和「能拉長題目」拆開看，結果發現 LLM 能跨地圖泛化，卻在長度變長時因遞迴推理不穩而失手。","arxiv.org","https:\u002F\u002Farxiv.org\u002Fabs\u002F2604.15306",null,"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1776406013309-pvmm.png","research","zh","443c85ce-62b3-4336-ad93-7a8a1538d271",[17,18,19,20,21],"LLM","generalization","shortest path","reinforcement learning","recursive reasoning",5,"2026-04-17T06:06:33.258278+00:00","2026-04-17T06:06:33.036+00:00",{"tags":26,"relatedLang":32,"relatedPosts":36},[27,29,31],{"name":17,"slug":28},"llm",{"name":20,"slug":30},"reinforcement-learning",{"name":18,"slug":18},{"id":15,"slug":33,"title":34,"language":35},"llm-generalization-shortest-path-scale-en","Why LLMs Generalize on Maps but Fail on Scale","en",[37,43,49,55,61,67],{"id":38,"slug":39,"title":40,"cover_image":41,"image_url":41,"created_at":42,"category":13},"d6f25c66-98f5-4971-8d1d-487fb5fe1881","claude-sonnet-46-sre-benchmark-rootly-zh","Claude Sonnet 4.6 對上 SRE 工作更接近 Opus","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1782750780131-xelc.png","2026-06-29T16:32:28.457338+00:00",{"id":44,"slug":45,"title":46,"cover_image":47,"image_url":47,"created_at":48,"category":13},"29321237-6e9a-4271-b9fb-e43e798d5dff","glm-52-beats-claude-semgrep-idor-test-zh","GLM 5.2 在 IDOR 測試贏過 Claude","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1782749882713-7i5n.png","2026-06-29T16:17:31.911487+00:00",{"id":50,"slug":51,"title":52,"cover_image":53,"image_url":53,"created_at":54,"category":13},"5172bfc7-34c8-4477-a177-ffa615497ecf","opd-distillation-skills-without-bruteforce-rl-zh","OPD 讓你把技能蒸餾進模型","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1782730101413-5wjx.png","2026-06-29T10:47:57.457072+00:00",{"id":56,"slug":57,"title":58,"cover_image":59,"image_url":59,"created_at":60,"category":13},"6f5be102-5764-44f1-ab3f-722fc5c32c23","google-deepmind-turns-science-into-tools-zh","Google DeepMind把AI變研究工具","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1782721105628-g4op.png","2026-06-29T08:17:57.716568+00:00",{"id":62,"slug":63,"title":64,"cover_image":65,"image_url":65,"created_at":66,"category":13},"c649adb7-c8ae-4ade-a092-2c0d53beeb71","measuring-llm-behavior-portability-zh","LLM 行為不一定可移植","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1782717472977-na8g.png","2026-06-29T07:17:29.597679+00:00",{"id":68,"slug":69,"title":70,"cover_image":71,"image_url":71,"created_at":72,"category":13},"637c3016-e364-4bfe-904e-5e60a18ed678","prompt-injection-ai-security-problem-zh","Prompt injection 已是 AI 資安問題","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1782716580916-m1nm.png","2026-06-29T07:02:36.173749+00:00",[74,79,84,89,94,99,104,109,114,119],{"id":75,"slug":76,"title":77,"created_at":78},"f18dbadb-8c59-4723-84a4-6ad22746c77a","deepmind-bets-on-continuous-learning-ai-2026-zh","DeepMind 押注 2026 連續學習 AI","2026-03-26T08:16:02.367355+00:00",{"id":80,"slug":81,"title":82,"created_at":83},"f4a106cb-02a6-4508-8f39-9720a0a93cee","ml-papers-of-the-week-github-research-desk-zh","每週 ML 論文清單，為何紅到 GitHub","2026-03-27T01:11:39.284175+00:00",{"id":85,"slug":86,"title":87,"created_at":88},"c4f807ca-4e5f-47f1-a48c-961cf3fc44dc","ai-ml-conferences-to-watch-in-2026-zh","2026 AI 研討會投稿時程整理","2026-03-27T01:51:53.874432+00:00",{"id":90,"slug":91,"title":92,"created_at":93},"cf046742-efb2-4753-aef9-caed5da5e32e","adaptive-block-scaled-data-types-zh","IF4：神經網路量化的聰明選擇","2026-03-31T06:00:36.990273+00:00",{"id":95,"slug":96,"title":97,"created_at":98},"53a0dc54-0371-4e40-8d5e-74e94a73840c","geometry-aware-similarity-metrics-for-neural-representations-zh","超越距離測量：用微分幾何重新理解神經網路","2026-03-31T06:01:01.241968+00:00",{"id":100,"slug":101,"title":102,"created_at":103},"fee7d472-a775-4b1d-bbc2-1e8bca1bbf8b","on-the-fly-repulsion-in-the-contextual-space-for-rich-divers-zh","讓AI繪圖更有創意：用排斥力提升生成多樣性","2026-03-31T06:01:25.439673+00:00",{"id":105,"slug":106,"title":107,"created_at":108},"a9901203-d69b-447b-8854-15d14eab32b4","vision-aided-beam-prediction-cnn-eca-zh","影像輔助波束預測升級 CNN","2026-04-01T10:00:25.8073+00:00",{"id":110,"slug":111,"title":112,"created_at":113},"b55e7dd4-0a24-4b3d-804d-b0309a03f498","triple-band-fss-mimo-antenna-sub-6-ghz-zh","三頻 FSS MIMO 天線瞄準 sub-6 GHz","2026-04-01T13:18:36.857305+00:00",{"id":115,"slug":116,"title":117,"created_at":118},"f68290bd-e7f3-4b30-ba22-dcd4e0130a66","openclaw-1299-repos-eight-weeks-analysis-zh","OpenClaw 1299 個 Repo 的資料解讀","2026-04-02T05:03:45.208411+00:00",{"id":120,"slug":121,"title":122,"created_at":123},"ed9f80eb-eb02-4d35-8ad4-0ddf428751dd","beam-coherence-aware-combining-mmwave-mimo-zh","毫米波 MIMO 的雙階合併法","2026-04-02T05:27:26.897188+00:00"]