BlockPilot优化投机解码

新论文提出 BlockPilot，用实例自适应策略学习为扩散式投机解码选择更合适的推理块大小。作者指出固定块大小会限制不同输入上的加速效果，并利用块大小的局部结构提升解码性能。

事件进展（1 篇报道）

1. 2026-07-03 22:41
   Reddit r/LocalLLaMA BlockPilot: Instance-Adaptive Policy Learning for Diffusion-based Speculative Decoding

← 返回首页