跳到正文
机器之心·· 9 小时前AI 评分29

EMNLP 2026 | SpecTr-GBV 统一多草稿与块验证,加速大模型推测解码

EMNLP 2026 | 大模型推理如何再快一步?SpecTr-GBV统一多草稿与块验证,加速推测解码

AI 导读

中国人民大学等团队提出 SpecTr-GBV,将 multi-draft 与 greedy block verification(GBV)统一进同一个推测解码框架,把多条 draft token blocks 与 target token block 的验证写成最优传输问题,在保持输出分布一致性的同时追求更长的期望接受长度。

来源:机器之心 · mp.weixin.qq.com