標籤

本地 AI

本地 AI 指在裝置端直接執行模型與代理流程，盡量不依賴雲端。它常出現在 Ryzen AI PC、RISC-V SBC、NAS 與邊緣裝置上，重點是低延遲、隱私、離線可用，以及對檔案、工具和個人資料的直接存取。

11 篇文章

OpenAI Sora 企業硬體瞄準影片工作流

OpenAI 傳出把 Sora 做成企業硬體，主打本地生成影片。售價 2,499 美元，規格含 32GB RAM、1TB 儲存與 4K OLED，鎖定工作室、代理商與重視資料保密的團隊。

Ollama 已不只是本地模型執行器，而是在成為本地模型、應用與代理工作流的預設 AI 層。

Tether 把 TurboQuant 納入 QVAC SDK 0.12.0，主打把本地 AI 的 KV cache 記憶體需求最高壓到 5 倍以下，讓長上下文推理更適合筆電與邊緣裝置。

TurboQuant 的價值不在於更快，而在於把長上下文 AI 從資料中心拉回手機、筆電與邊緣裝置，讓本地 AI 真正可用。

PewDiePie 推出 Odysseus，一個可自架的免費 AI 工作台，主打本地模型、聊天、agent、研究流程與隱私控制。

TurboQuant 之所以重要，不是因為模型更大，而是因為它直接壓低了決定本地 AI 表現的 KV cache 記憶體瓶頸。

7 個理由看懂 Unsloth Studio 如何把本地推理、免寫程式微調、資料整理與匯出整合在一起。

SOLAI 開賣 399 美元的 Solode Neo，主打本地跑 AI agents。它支援 Claude Code、Codex、Gemini CLI 與 Hermes，還附 AI credits。

Banana Pi 的 BPI-SM10 是一款 RISC-V SBC，主打本地 AI，最高 60 TOPS，還有 USB 3.0、Gigabit Ethernet 和 M.2 擴充。

AMD GAIA 0.17 為 Ryzen AI PC 加入本地 Agent UI，支援檔案對話、工具審核、53+ 格式與頁碼引用，整個流程不走雲端。

Zettlab 把重點放在個人資料與 context。它想做的不是傳統 NAS，而是一台讓 AI agent 直接用你私有資料工作的 Agent Computer。