[RSCH] 6 分鐘閱讀OraCore 編輯部

MeanFlowNFT 讓少步生成也能做 RL

MeanFlowNFT 把前向流程 RL 接到 MeanFlow 的平均速度生成器上,保住少步採樣的速度,也讓對齊訓練變得可行。

分享 LinkedIn
MeanFlowNFT 讓少步生成也能做 RL

MeanFlowNFT 把前向流程 RL 接到 MeanFlow 的平均速度生成器上,保住少步採樣的速度,也讓對齊訓練變得可行。

  • 研究機構:arXiv 摘要未明確標註
  • 核心數據:4-step Wan 2.1 的 VBench 84.33
  • 突破點:由 MeanFlow 身份導出瞬時速度

這篇論文在處理一個很實際的落差:MeanFlow 很適合做少步生成,但很多 RL 對齊方法是為「瞬時速度」那一套設計的。兩邊的訓練假設不同,直接套用會卡住。

作者提出的 MeanFlowNFT,目的不是把 MeanFlow 改成另一種慢模型,而是想把前向流程 RL 接到 MeanFlow 上,讓它在保留少步採樣優勢的前提下,也能做獎勵導向的優化。對做影像或影片生成的人來說,這種「不增加太多步數、但還能提升品質」的方向很有吸引力。

這篇論文要解什麼痛點

訂閱 AI 趨勢週報

每週精選模型發布、工具應用與深度分析,直送信箱。不定期,不騷擾。

不會寄垃圾信,隨時可取消。

MeanFlow 的賣點很直接:它可以用很少的步數完成採樣,因為它預測的是一段時間區間上的平均速度,而不是每一瞬間的速度。這讓推理更快,也更省成本。

MeanFlowNFT 讓少步生成也能做 RL

但問題也很明顯。許多 RL 對齊工作,特別是 DiffusionNFT 類的方法,是圍繞瞬時速度來寫的。它們不用反向過程軌跡,也不用做 likelihood estimation,訓練效率高,可是這套形式和 MeanFlow 的參數化不太合。

換句話說,RL 方法本身不差,卡住的是模型表示方式。對開發者而言,這就是一個工程上的常見難題:你想把偏好對齊、任務對齊加到快速生成器上,但又不想把它改回一個更慢的系統。

這篇摘要沒有公開完整 benchmark 細節,所以我們只能先抓住它真正處理的核心:如何在不犧牲少步推理的前提下,讓 MeanFlow 也能吃到前向流程 RL 的好處。

方法到底怎麼接起來

MeanFlowNFT 的關鍵,是用 MeanFlow identity 把「平均速度」和「瞬時速度」橋接起來。作者先從 MeanFlow 模型構造出一個 induced instantaneous-velocity predictor,再把 DiffusionNFT 的目標函數套到這個 predictor 上。

這個做法的重點,不是硬逼 MeanFlow 變成 diffusion model,而是替它補上一個可做 RL 的中介表示。這樣一來,獎勵最佳化有了明確的定義,但真正的採樣路徑還是走平均速度那條路。

也就是說,訓練和推理被拆開處理。訓練時,模型透過導出的瞬時速度預測器接受 RL 式更新;推理時,仍然維持 MeanFlow 原本的少步採樣。這也是為什麼這篇工作會被放在「forward-process RL」的脈絡裡,而不是傳統的反向擴散優化。

這種設計對實作很重要。很多生成系統一旦把對齊訓練接上去,就會不小心把推理成本一起拉高。MeanFlowNFT 想避免的,正是這件事。

它實際證明了什麼

從摘要能確認的結果有兩個層次。第一,作者說這個方法在影像與影片生成上都能持續優於 baseline。第二,它在多數指標上超過先前最好的 RL 調整少步生成器,特別是在 SD3.5-M 的 8 個指標裡贏了 6 個。

MeanFlowNFT 讓少步生成也能做 RL

最具體的一組數字是 Wan 2.1。4-step 的 MeanFlowNFT 在 VBench 上拿到 84.33,優於 50-step 的 LongCat-Video RL 的 82.57。這個對比很有意思,因為它不是只比品質,而是把步數差距一起算進來看:少很多步,分數還更高。

這代表什麼?至少從摘要看,MeanFlowNFT 不是單純把 RL 套上去而已,而是真的保住了少步生成的效率優勢,同時把輸出品質往上推了一截。對需要看 latency、吞吐量和推理成本的團隊,這種結果比單純的分數提升更有說服力。

不過,摘要也沒有把完整 benchmark 表、訓練成本、資料規模或實作細節全部攤開。它有說「在多數指標上」表現更好,但沒有把每個模型、每個任務、每個指標的邊界講清楚。

  • MeanFlowNFT 針對的是少步生成與前向流程 RL 的落差。
  • 它用導出的瞬時速度預測器,把 DiffusionNFT 目標接到 MeanFlow 上。
  • 摘要中最明確的成果,是 4-step Wan 2.1 在 VBench 84.33,超過 50-step baseline。

對開發者有什麼影響

如果你在做生成式產品,這篇的訊號很清楚:對齊訓練不一定要用更多採樣步數換。只要模型參數化夠合適,RL 式優化也可以跟少步推理共存。

這對影像、影片、互動式生成特別重要。這些場景裡,品質當然重要,但能不能即時回應、能不能壓低算力成本,往往更接近產品能不能上線的關鍵。少一步,可能就少一點延遲;少很多步,可能直接改變部署成本。

這篇也提醒一件事:訓練目標不是可以隨便搬家的。MeanFlow 的平均速度表示法,和 diffusion 類模型的瞬時速度假設不同。MeanFlowNFT 的價值就在於,它沒有忽略這個差異,而是正面處理這個 mismatch。

如果你在設計自己的少步生成器,這種思路值得記住:先想清楚模型到底在預測什麼,再決定 RL objective 要怎麼接。很多時候,真正困難的不是獎勵函數本身,而是它和模型表示能不能對上。

限制與還沒回答的問題

這篇摘要的限制也很明顯。它沒有公開完整 benchmark 細節,所以我們看得到方向,但看不到全部實驗版圖。像是訓練成本、額外模組開銷、推理延遲數字,摘要都沒說。

另外,雖然作者主張方法在影像和影片生成上都有效,但摘要沒有交代這個做法對不同模型家族的泛化邊界。它是不是能穩定移植到其他 few-step generators,從摘要本身還看不出來。

還有一點值得注意:作者提到它繼承了 DiffusionNFT 的 strict policy-improvement guarantee。這是很重要的形式性說法,但摘要沒有展開完整證明,所以我們只能先把它視為論文的理論主張,而不是外部已驗證的結論。

總結來看,MeanFlowNFT 的價值不在於把少步生成做得更慢更準,而是在維持速度的前提下,讓前向流程 RL 真的能接進去。對正在找高效率生成對齊方法的人來說,這是一條很實用的路。