OraCore · Topic ·research
SpecKV 讓推測解碼自動調 gamma
SpecKV 把推測解碼的 token 預算改成逐步自動調整,利用 draft 模型訊號在不同壓縮設定下挑出更合適的 gamma。
1 articles in this thread ·Last updated 19h ago·First seen Jul 5, 2026
時間軸
SpecKV 把推測解碼的 token 預算改成逐步自動調整,利用 draft 模型訊號在不同壓縮設定下挑出更合適的 gamma。