arXiv cs.LG· Wentao Lu, Tianyu Zhu, Jesse Clark·· 19 天前AI 评分34
面向扩散语言模型的结果路由蒸馏与强化学习
Outcome-Routed Distillation and Reinforcement Learning for Diffusion Language Models
AI 导读
研究人员针对 MoE 架构的扩散语言模型（dLLM）提出了一种无需策略似然度的训练管线，结合验证器强化学习与结果路由蒸馏。在 24 步去噪下，蒸馏先使模型工具调用性能超过教师 6.77 个百分点，加入路由后在蒸馏检查点基础上进一步提升 18.31 个百分点。该方法还通过锚定 KL 项保护了验证器奖励之外的推理链路准确率。
来源：arXiv cs.LG · arxiv.org