tokens/s

MiMo 在 1T 模型跑到 1000 TPS

Xiaomi MiMo 聯手 TileRT，宣稱在一般 8-GPU 伺服器上，把 1T 參數模型推到每秒 1000+ tokens。