[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"article-robottt-scales-robot-memory-8k-timesteps-zh":3,"article-related-robottt-scales-robot-memory-8k-timesteps-zh":30,"series-research-6312785c-5658-41aa-8eb8-36b0e2d899e0":75},{"id":4,"slug":5,"title":6,"content":7,"summary":8,"source":9,"source_url":10,"author":11,"image_url":12,"cover_image":12,"category":13,"language":14,"translated_content":11,"related_article_id":15,"keywords":16,"key_takeaways":22,"views":26,"created_at":27,"published_at":28,"topic_cluster_id":29},"6312785c-5658-41aa-8eb8-36b0e2d899e0","robottt-scales-robot-memory-8k-timesteps-zh","RoboTTT 把機器人記憶拉到 8K","\u003Cp data-speakable=\"summary\">8K timesteps 讓 RoboTTT 在不增加推理延遲下，提升機器人長程控制表現。\u003C\u002Fp>\u003Cul>\u003Cli>\u003Cstrong>研究機構\u003C\u002Fstrong>：arXiv 摘要未明確標註\u003C\u002Fli>\u003Cli>\u003Cstrong>核心數據\u003C\u002Fstrong>：8K timesteps\u003C\u002Fli>\u003Cli>\u003Cstrong>突破點\u003C\u002Fstrong>：測試時訓練快權重\u003C\u002Fli>\u003C\u002Ful>\u003Cp>這篇論文在做的事很直接：把機器人政策的「記憶」往前推到更長的歷史，讓模型不只看眼前一步，而是能把更長的視覺與動作脈絡一起帶進決策。它的重點不是單純把 context 拉長，而是把\u003Ca href=\"\u002Ftag\u002F長上下文\">長上下文\u003C\u002Fa>和即時控制的延遲問題一起處理。\u003C\u002Fp>\u003Cp>對做機器人系統的人來說，這很\u003Ca href=\"\u002Fnews\u002Fopenai-partner-network-clear-path-for-partners-zh\">關鍵\u003C\u002Fa>。很多現有 robot foundation model 仍然只吃單步或短歷史的 visuomotor context。這在簡單反應式任務還夠用，但一旦任務要記住前面發生什麼、要適應環境變化，或要分好多階段完成，短記憶就會變成瓶頸。\u003C\u002Fp>\u003Ch2>這篇論文想解什麼痛點\u003C\u002Fh2>\u003Cp>RoboTTT 針對的是機器人學習裡很實際的問題：政策看得太短。當模型只能看很窄的一段歷史，它可能忘了更早的觀測，也可能在受到干擾之後，無法把前後狀態串起來。結果就是，任務只要跨很多步，表現就容易掉下來。\u003C\u002Fp>\n\u003Cfigure class=\"my-6\">\u003Cimg src=\"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1784269982853-a5xq.png\" alt=\"RoboTTT 把機器人記憶拉到 8K\" class=\"rounded-xl w-full\" loading=\"lazy\" \u002F>\u003C\u002Ffigure>\n\u003Cp>摘要把這件事描述成近期 robot foundation models 的限制。也就是說，問題不只是資料不夠，或模型不夠大，而是 context 長度本身還沒有被當成\u003Ca href=\"\u002Fnews\u002Fgrok-4-5-one-prompt-agent-work-zh\">一個\u003C\u002Fa>可以持續擴展的維度。\u003C\u002Fp>\u003Cp>RoboTTT 的主張就是把 context length 當成 scaling axis。它把 visuomotor context 推到 8K timesteps，並聲稱這比它比較的現有政策大了三個數量級。這個說法的重點不是炫技，而是把「記憶長度」提升到和模型規模、資料規模一樣重要的位置。\u003C\u002Fp>\u003Cp>對部署來說，還有另一個痛點更現實：記憶變長，推理就可能變慢。機器人控制迴圈通常很緊，延遲一旦上去，demo 可能還能看，真機就不好用了。所以這篇論文不是只問「能不能記更久」，而是同時問「能不能在不拖慢推理的前提下記更久」。\u003C\u002Fp>\u003Ch2>方法到底怎麼運作\u003C\u002Fh2>\u003Cp>RoboTTT 的全名是 Test-Time-Training Robot Policies。核心想法是把 test-time training 放進 policy 本身，讓模型在訓練和推理時都能更新一組 fast weights。\u003C\u002Fp>\u003Cp>白話一點說，它不是只把歷史塞進一個更大的 hidden state。它是把歷史壓到「權重空間」裡，讓模型透過這些 fast weights 來保留上下文，然後在下一步動作決策時把這些資訊拿回來用。這種做法的目的，是把長期記憶做成一種會更新的參數狀態，而不只是暫存向量。\u003C\u002Fp>\u003Cp>這篇方法是建立在 robot foundation models 上，摘要特別提到 Vision-Language-Action policies。為了讓長上下文訓練可行，作者用了 sequence action forcing 和 truncated backpropagation through time。這些名詞聽起來偏訓練工程，但其實很重要，因為它們說明作者不是只提出概念，而是處理了長序列訓練時常見的實作難題。\u003C\u002Fp>\u003Cp>這裡最值得注意的設計點，是 fast weights 的角色。傳統做法常把記憶放在 activation cache 或 recurrent hidden state 裡；RoboTTT 則讓模型在訓練與推理時都能用梯度下降更新 fast weights。換句話說，它把「記住過去」變成「在推理時也能學」。\u003C\u002Fp>\u003Cp>這也解釋了為什麼論文會強調 \u003Ca href=\"\u002Ftag\u002Finference\">inference\u003C\u002Fa> latency 沒有跟著 context 拉長而增加。因為它不是單純把更長的歷史一路丟進更重的前向計算，而是用一種把資訊壓進參數狀態的方式來處理長程依賴。\u003C\u002Fp>\u003Ch2>論文實際證明了什麼\u003C\u002Fh2>\u003Cp>摘要裡最明確的結果，是在困難的真機操作任務上，RoboTTT 相較於單步 context baseline，整體表現提升 87%。這是很直接的訊號：長 context 不只是理論上更漂亮，至少在這些任務上，確實能帶來明顯收益。\u003C\u002Fp>\n\u003Cfigure class=\"my-6\">\u003Cimg src=\"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1784269976417-m3il.png\" alt=\"RoboTTT 把機器人記憶拉到 8K\" class=\"rounded-xl w-full\" loading=\"lazy\" \u002F>\u003C\u002Ffigure>\n\u003Cp>另一個很強的結果是，它完整完成了一個五分鐘、十階段的 assembly task，而且摘要說沒有任何 baseline 做到這件事。這種任務的價值在於，它不是單次抓取或短回合操作，而是需要把多個步驟串起來，還要維持狀態一致。\u003C\u002Fp>\u003Cp>論文也提到，使用 8K timestep context 訓練的 RoboTTT，比起用 1K timesteps 預訓練的同一個模型，表現高出 62%。這代表 context 長度本身不是裝飾品，而是會直接影響成果的 scaling 因子。\u003C\u002Fp>\u003Cp>摘要還提出一個首度觀察：隨著 pretraining context length 擴大，closed-loop performance 會持續穩定\u003Ca href=\"\u002Fnews\u002Fgrok-4-5-rise-five-numbers-zh\">上升\u003C\u002Fa>。如果這個趨勢在更廣泛任務上也成立，那對 robot policy 設計會是很重要的訊號，因為它暗示長記憶可以像算力或資料一樣，成為可擴展的資源。\u003C\u002Fp>\u003Cp>不過，摘要沒有公開完整 \u003Ca href=\"\u002Ftag\u002Fbenchmark\">benchmark\u003C\u002Fa> 細節。它沒有列出完整任務清單、硬體設定，也沒有把 latency 的量測數字攤開。也就是說，這些 headline 成績很有力，但還不能直接把它解讀成所有機器人場景都會得到同樣幅度的提升。\u003C\u002Fp>\u003Ch2>對開發者有什麼影響\u003C\u002Fh2>\u003Cp>如果你在做 robot policy，這篇的訊息很清楚：memory 可能不只是輔助功能，而是新的 scaling 維度。以前大家常把注意力放在更大的模型、更好的感知，現在這篇是在提醒，長上下文本身也可能是性能來源。\u003C\u002Fp>\u003Cp>第一個實際影響，是 one-shot imitation from human video 變得更有機會。當政策能看更長的歷史，它就比較有條件從人類示範影片裡抓到完整脈絡，而不是只學到片段動作。\u003C\u002Fp>\u003Cp>第二個影響，是對 perturbation 的韌性。機器人常常不是一直順順做事，中間會有干擾、偏移、狀態改變。若模型能記得更早之前發生過什麼，它就比較可能把前後資訊接起來，做出更穩的閉迴路控制。\u003C\u002Fp>\u003Cp>第三個影響，是 multi-stage task 的可行性。很多真實任務不是單一步驟完成，而是要一路接續好幾個子步驟。長 context 能讓模型少一點「切段式」思維，減少靠很多脆弱子策略拼湊的需求。\u003C\u002Fp>\u003Cp>從系統角度看，fast weights 也提供另一種 memory 設計思路。它不是傳統意義上把更多歷史塞進更長 cache，而是讓模型在推理時更新參數狀態。這對延遲敏感的控制迴圈特別值得看，因為摘要明確說它沒有讓 inference latency 增加。\u003C\u002Fp>\u003Ch2>還有哪些限制要先看清楚\u003C\u002Fh2>\u003Cp>這篇摘要給了很強的方向感，但也留下不少實作問題。首先，它沒有說 test-time training 的成本有多高，也沒說 fast-weight 更新在長時間運行下穩不穩。這些都會影響真機部署。\u003C\u002Fp>\u003Cp>其次，摘要沒有交代這 8K timesteps 的效果在不同資料集、不同機械手臂、不同任務類型上是否一致。也就是說，這個方法是不是能廣泛移植，摘要本身還看不出來。\u003C\u002Fp>\u003Cp>再來，作者提到 sequence action forcing 和 truncated backpropagation through time，但摘要沒有說清楚到底是哪個部分貢獻最大。對工程師來說，這會影響你要不要把它當成一個可直接移植的架構，還是只適合特定訓練配方。\u003C\u002Fp>\u003Cp>最後，這篇的核心主張是「長 context + fast weights」可以讓機器人政策更會記。這個方向很有說服力，但它仍然是建立在摘要層級的結果上。真正要進到產品或研究系統，還需要更完整的 benchmark、訓練成本、部署延遲與穩定性資訊。\u003C\u002Fp>\u003Cp>總結來看，RoboTTT 證明了一件事：機器人政策的記憶長度可以被系統性地往上推，而且不一定要用更高的推理延遲來交換。對做 robot learning 的團隊來說，這不是小改良，而是可能改寫設計思路的一個 scaling 方向。\u003C\u002Fp>\u003Cul>\u003Cli>RoboTTT 把機器人視覺動作 context 拉到 8K timesteps。\u003C\u002Fli>\u003Cli>它用 test-time training 和 fast weights 來保存長歷史。\u003C\u002Fli>\u003Cli>摘要聲稱可提升 87% 整體表現，且不增加推理延遲。\u003C\u002Fli>\u003C\u002Ful>","RoboTTT 把機器人視覺動作上下文拉到 8K timesteps，還能不增加推理延遲地提升長程控制表現。","arxiv.org","https:\u002F\u002Farxiv.org\u002Fabs\u002F2607.15275",null,"https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1784269982853-a5xq.png","research","zh","ae09064b-0052-4d91-94db-8dc8c079efac",[17,18,19,20,21],"robot foundation models","test-time training","fast weights","visuomotor context","long-horizon control",[23,24,25],"RoboTTT 把機器人政策的記憶長度拉到 8K timesteps。","方法核心是用 test-time training 與 fast weights 承載長上下文。","摘要聲稱能提升長程控制表現，且推理延遲不變。",0,"2026-07-17T06:32:29.595266+00:00","2026-07-17T06:32:29.584+00:00","39ad4252-cc07-4568-9feb-7876c231bd99",{"tags":31,"relatedLang":34,"relatedPosts":38},[32],{"name":18,"slug":33},"test-time-training",{"id":15,"slug":35,"title":36,"language":37},"robottt-scales-robot-memory-8k-timesteps-en","RoboTTT scales robot memory to 8K timesteps","en",[39,45,51,57,63,69],{"id":40,"slug":41,"title":42,"cover_image":43,"image_url":43,"created_at":44,"category":13},"ff3d62ca-fd2d-4779-87e3-3a8817cdaa33","meanflownft-forward-process-rl-average-velocity-zh","MeanFlowNFT 讓少步生成也能做 RL","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1784271777053-13dr.png","2026-07-17T07:02:26.965016+00:00",{"id":46,"slug":47,"title":48,"cover_image":49,"image_url":49,"created_at":50,"category":13},"6d22f161-1daf-4318-82fc-527dbc421be1","partition-prompt-aggregate-llm-self-consistency-zh","LLM 分群估計常失真","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1784268183912-ga0a.png","2026-07-17T06:02:33.467937+00:00",{"id":52,"slug":53,"title":54,"cover_image":55,"image_url":55,"created_at":56,"category":13},"13278648-00b8-418e-b608-76550f390167","metaperch-metadata-bioacoustics-foundation-models-zh","MetaPerch把錄音資料變成訓練訊號","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1784185380381-uzad.png","2026-07-16T07:02:33.406877+00:00",{"id":58,"slug":59,"title":60,"cover_image":61,"image_url":61,"created_at":62,"category":13},"5261f454-5b1f-4794-bbb5-e70b11a2ff2e","ot-ica-wasserstein-linear-ica-zh","OT-ICA 用 Wasserstein 距離做 ICA","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1784183583515-jfy3.png","2026-07-16T06:32:38.802999+00:00",{"id":64,"slug":65,"title":66,"cover_image":67,"image_url":67,"created_at":68,"category":13},"faf69af0-1ce7-49a4-a9c2-4a0a3afb6065","mojo-unlabeled-training-neural-decoding-zh","MOJO 用無標註資料強化神經解碼","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1784181774015-4mmb.png","2026-07-16T06:02:24.378249+00:00",{"id":70,"slug":71,"title":72,"cover_image":73,"image_url":73,"created_at":74,"category":13},"dcf89f35-0a75-4587-9bb3-2b477a9fe7b2","claude-j-space-not-a-black-box-zh","J-space 證明大模型不是黑箱，而是可讀的內部系統","https:\u002F\u002Fxxdpdyhzhpamafnrdkyq.supabase.co\u002Fstorage\u002Fv1\u002Fobject\u002Fpublic\u002Fcovers\u002Finline-1784100783068-18zd.png","2026-07-15T07:32:38.727346+00:00",[76,81,86,91,96,101,106,111,116,121],{"id":77,"slug":78,"title":79,"created_at":80},"f18dbadb-8c59-4723-84a4-6ad22746c77a","deepmind-bets-on-continuous-learning-ai-2026-zh","DeepMind 押注 2026 連續學習 AI","2026-03-26T08:16:02.367355+00:00",{"id":82,"slug":83,"title":84,"created_at":85},"f4a106cb-02a6-4508-8f39-9720a0a93cee","ml-papers-of-the-week-github-research-desk-zh","每週 ML 論文清單，為何紅到 GitHub","2026-03-27T01:11:39.284175+00:00",{"id":87,"slug":88,"title":89,"created_at":90},"c4f807ca-4e5f-47f1-a48c-961cf3fc44dc","ai-ml-conferences-to-watch-in-2026-zh","2026 AI 研討會投稿時程整理","2026-03-27T01:51:53.874432+00:00",{"id":92,"slug":93,"title":94,"created_at":95},"cf046742-efb2-4753-aef9-caed5da5e32e","adaptive-block-scaled-data-types-zh","IF4：神經網路量化的聰明選擇","2026-03-31T06:00:36.990273+00:00",{"id":97,"slug":98,"title":99,"created_at":100},"53a0dc54-0371-4e40-8d5e-74e94a73840c","geometry-aware-similarity-metrics-for-neural-representations-zh","超越距離測量：用微分幾何重新理解神經網路","2026-03-31T06:01:01.241968+00:00",{"id":102,"slug":103,"title":104,"created_at":105},"fee7d472-a775-4b1d-bbc2-1e8bca1bbf8b","on-the-fly-repulsion-in-the-contextual-space-for-rich-divers-zh","讓AI繪圖更有創意：用排斥力提升生成多樣性","2026-03-31T06:01:25.439673+00:00",{"id":107,"slug":108,"title":109,"created_at":110},"a9901203-d69b-447b-8854-15d14eab32b4","vision-aided-beam-prediction-cnn-eca-zh","影像輔助波束預測升級 CNN","2026-04-01T10:00:25.8073+00:00",{"id":112,"slug":113,"title":114,"created_at":115},"b55e7dd4-0a24-4b3d-804d-b0309a03f498","triple-band-fss-mimo-antenna-sub-6-ghz-zh","三頻 FSS MIMO 天線瞄準 sub-6 GHz","2026-04-01T13:18:36.857305+00:00",{"id":117,"slug":118,"title":119,"created_at":120},"f68290bd-e7f3-4b30-ba22-dcd4e0130a66","openclaw-1299-repos-eight-weeks-analysis-zh","OpenClaw 1299 個 Repo 的資料解讀","2026-04-02T05:03:45.208411+00:00",{"id":122,"slug":123,"title":124,"created_at":125},"ed9f80eb-eb02-4d35-8ad4-0ddf428751dd","beam-coherence-aware-combining-mmwave-mimo-zh","毫米波 MIMO 的雙階合併法","2026-04-02T05:27:26.897188+00:00"]