[RSCH] 3 分鐘閱讀OraCore 編輯部

Leanstral 1.5 證明開源數學模型已經能上場

Leanstral 1.5 的成績顯示,開源模型已經能在形式化數學與程式驗證上提供實際價值,不再只是展示型作品。

分享 LinkedIn
Leanstral 1.5 證明開源數學模型已經能上場

100% 的 miniF2F 成績證明,開源 Lean 模型已經能勝任形式化證明工作。

Leanstral 1.5 不是又一個會聊天的模型,而是一個能在形式化數學與程式驗證上交付成果的開源系統;它的 benchmark 表現已經明確越過「看起來厲害」的門檻,進入「真的有用」的區間。

第一個論點

訂閱 AI 趨勢週報

每週精選模型發布、工具應用與深度分析,直送信箱。不定期,不騷擾。

不會寄垃圾信,隨時可取消。

在 miniF2F 上拿到 100% 並不是漂亮數字而已。miniF2F 涵蓋從高中數學到奧林匹亞難度的形式化題目,這代表模型不是在背題庫,而是在 Lean 4 裡穩定處理結構化證明。當一個系統能把這類任務做滿分,說明它已經掌握了形式推理的核心操作。

Leanstral 1.5 證明開源數學模型已經能上場

更難忽視的是 PutnamBench:672 題裡解出 587 題,這不是邊角料成績。Mistral 也指出,它在 PutnamBench、FATE-H、FATE-X 都領先開源陣營;只有閉源的 Aleph Prover 在 PutnamBench 上更強。這個差距很小,卻足以說明一件事,開源模型已經逼近最頂尖的商用系統。

第二個論點

形式化數學比一般聊天 benchmark 更嚴格,因為它不吃語氣、不吃流暢度,只看證明能不能編譯。這種評測方式把「像是在思考」和「真的推導出正確結果」清楚分開,所以 Leanstral 1.5 的表現具有更高可信度,也更接近工程世界需要的可靠性。

FATE-H 和 FATE-X 的結果進一步補強這點。這兩個 benchmark 涵蓋碩士與博士層級的代數題,包含群論與環論,而 Leanstral 1.5 分別拿到 87% 與 34% 的開源最佳成績。這表示它不是只會某一類題型,而是能在一整族依賴符號精確性的任務上維持能力。

反方可能怎麼說

最強的反對意見很直接:benchmark 再高,也不等於日常開發真的有用。Lean 4 是高度專門的環境,形式化證明的世界和一般軟體工程差很多;模型在定理證明裡表現好,不代表它能理解模糊需求、混亂 codebase,或處理產品決策中的灰色地帶。

Leanstral 1.5 證明開源數學模型已經能上場

這個質疑成立,而且它應該被保留。Leanstral 1.5 的價值不在於宣稱自己能取代所有工程工作,而在於它已經在最可驗證的場景裡證明了自己:它不只在 benchmark 上強,還真的掃過 57 個開源 repo,找出 5 個先前未知的 bug,其中包含 Rust 函式庫 varinteger 的 overflow 問題。這不是抽象能力,而是可落地的修補價值。

你能做什麼

工程師應把 Leanstral 1.5 當成驗證助手,用在 proof sketch、invariant 檢查、關鍵路徑 bug hunting,不要把它當萬能聊天機器人;PM 應優先在編譯器、資安、金融、基礎設施這類錯誤成本高的場景試點;創辦人則該把訊號看清楚,開源模型已經足以切入「信任建立在形式證明」的領域,下一批真正耐久的 AI 產品,很可能就長在這裡。