arXiv cs.LG· Haohui Zhang, Keyu Chen, Haocheng Sun, Weibo Gu, Ruizhi Qiao, Xing Sun, Bo Jiang·· 2026-09-30AI 评分37
DSpine：基于相邻因果注入与深度条件化的推测解码方法
Draft in Parallel, Condition Through Depth: Adjacent Causal Injection for Speculative Decoding
AI 导读
研究者提出推测解码草稿模型 DSpine，通过在骨干网络逐层引入门控相邻注入，在保持全位置并行更新的同时通过网络深度传递因果条件。在 Qwen3-4B 与 Qwen3-8B 的 7 项评测中它均取得最长接受长度，将 Qwen3-8B 平均接受长度由 DFlash 的 3.77 提升至 4.82（+27.8%）。在 SGLang 服务测试中，其平均吞吐量比 DFlash 提高 23.3%。
来源：arXiv cs.LG · arxiv.org