OraCore · Topic ·tools

TurboQuant、冷啟動與 GPU Rust

TurboQuant 把 KV cache 壓到 4.6 倍，GPU state restore 盯上 32B 模型冷啟動，Rust 也更深入 CUDA 開發。

1 articles in this thread ·Last updated 19h ago·First seen Jul 5, 2026

時間軸

  1. TurboQuant、冷啟動與 GPU Rust 種子

    TurboQuant 把 KV cache 壓到 4.6 倍，GPU state restore 盯上 32B 模型冷啟動，Rust 也更深入 CUDA 開發。