[IND] 3 分鐘閱讀OraCore 編輯部

OpenAI 自研晶片是對抗 Nvidia 的正確一步

OpenAI 與 Broadcom 合作自研晶片,是降低對 Nvidia 依賴、改善推理成本與供應韌性的必要策略。

分享 LinkedIn
OpenAI 自研晶片是對抗 Nvidia 的正確一步

OpenAI 與 Broadcom 合作自研晶片,是降低對 Nvidia 依賴、改善推理成本與供應韌性的必要策略。

OpenAI 自己做 AI 晶片是對的,因為對 Nvidia 的依賴已經變成速度、成本與控制權的戰略稅。

OpenAI 與 Broadcom 合作的首款客製晶片 Jalapeño,據報只花了九個月就完成,且目標是推理運算。這個速度很關鍵:當算力供應會卡住產品上線時,客製晶片不是炫技,而是把稀缺的外部供給,變成可控的內部能力。

第一個論點

訂閱 AI 趨勢週報

每週精選模型發布、工具應用與深度分析,直送信箱。不定期,不騷擾。

不會寄垃圾信,隨時可取消。

客製晶片先解的是供應問題。OpenAI 是 Nvidia 最大級別的買家之一,這意味著它和所有大型 AI 公司一起搶同一批 GPU。對一家要持續擴張模型服務的公司來說,這種依賴關係太脆弱。自研晶片不會讓 Nvidia 消失,但能在主幹道塞車時,多一條可走的車道。

OpenAI 自研晶片是對抗 Nvidia 的正確一步

這不是 OpenAI 的獨門做法。Amazon、GoogleMicrosoft、Meta 都在投資自家處理器,因為大規模 AI 的經濟學本來就偏向垂直整合。當最大買家都在做替代方案,這不是市場雜音,而是對單一供應商的明確回應。Nvidia 的產品很強,但不是每種工作負載、每個預算、每條產品路線都能完全靠它解決。

第二個論點

真正的槓桿在推理,不在訓練。OpenAI 已明說 Jalapeño 是為 inferencing 設計,也就是模型訓練完成後的持續運行階段。這是正確的切入點,因為推理才是 AI 的經常性成本中心。訓練會上新聞,推理才付帳單;只要能改善每瓦效能,OpenAI 就能降低營運成本、提高吞吐量,並把服務交付得更便宜。

每瓦效能不是附屬指標,而是資料中心的利潤率。當 AI 使用從偶發測試變成全天候流量,能做更多工作的晶片就會直接改變部署經濟。這也是為什麼自研晶片一旦跑通,就不只是省錢,而是把基礎設施變成護城河。九個月做出推理晶片,代表 OpenAI 已經開始把成本結構握回自己手上。

反方可能怎麼說

最強的反對意見是:Nvidia 不只有晶片,還有 CUDA 生態、軟體堆疊與開發者心智。對 AI 基礎設施來說,CUDA 幾乎像操作系統。自研晶片設計昂貴、驗證麻煩,還可能跟不上模型架構快速演進;一旦做不好,工程團隊會被硬體專案拖走,反而傷到核心產品。

OpenAI 自研晶片是對抗 Nvidia 的正確一步

另一個合理疑慮是過度建設。OpenAI 仍然會大量採購 Nvidia 硬體,不可能一夜之間替代。若自家晶片只覆蓋少數推理工作負載,節省雖然存在,卻未必足以改寫整體成本結構。市場上不乏這類晶片新聞,聲勢很大,最後只變成內部專用工具。

但這些批評無法推翻策略本身。OpenAI 不需要 Jalapeño 在所有場景取代 Nvidia,只需要它在高頻推理上降低暴露、改善單位經濟,並在供應吃緊時增加議價能力。基礎設施的重點不是意識形態上的完全獨立,而是可轉移性與談判籌碼。部分獨立,已經比完全依賴強得多。

你能做什麼

如果你是工程師、PM 或創辦人,這件事的訊號很清楚:系統設計要保留選項。把模型、推理框架與部署流程做成能在不同晶片、雲端與後端之間切換,而不是綁死單一供應商。當 AI 基礎設施持續碎片化,真正的競爭力不是對某家廠商忠誠,而是你能否同時控制成本、延遲與供應。