LiteLLM

LiteLLM 推出 Rust 版輕量網關

LiteLLM-Rust 是一個用 Rust 寫的輕量 AI gateway，保留原本 config.yaml 與資料庫結構，目標是把 coding agent 的轉發延遲壓到 1ms 內。