arXiv cs.LG· Aaron Zorel, Guy Van den Broeck, Aditya Grover, Daniel Israel·· 7 天前AI 评分34
投机扩散的双重权衡
Speculative Diffusion is a Tale of Two Tradeoffs
AI 导读
研究提出通过联合调整扩散工作量与投机解码宽容度,探索投机扩散(Speculative Diffusion)的速度与质量帕累托前沿。扩散大语言模型(dLLMs)能通过并行生成 token 作为草稿模型加速推理,投机解码本身也能放宽验证器的接受标准来实现有损快速采样。实验表明,联合调节这两项参数相比单步扩散草稿能有效扩展速度-质量帕累托前沿。
来源:arXiv cs.LG · arxiv.org