OraCore · Topic ·research

SpecKV 讓推測解碼自動調 gamma

SpecKV 把推測解碼的 token 預算改成逐步自動調整,利用 draft 模型訊號在不同壓縮設定下挑出更合適的 gamma。

1 articles in this thread ·Last updated 19h ago·First seen Jul 5, 2026

時間軸

  1. SpecKV 把推測解碼的 token 預算改成逐步自動調整,利用 draft 模型訊號在不同壓縮設定下挑出更合適的 gamma。