標籤
1 篇文章
LiteLLM-Rust 是一個用 Rust 寫的輕量 AI gateway,保留原本 config.yaml 與資料庫結構,目標是把 coding agent 的轉發延遲壓到 1ms 內。