arXiv cs.LG· Stanley Wei, Jiin Woo, Kaan Ozkara, Youngsuk Park·· 18 天前AI 评分36
兼容性至关重要：在线策略蒸馏中的 token 级教师选择框架
Compatibility Matters: A Framework for Token-Level Teacher Selection in On-Policy Distillation
AI 导读
研究者提出了一个在线策略蒸馏（OPD）中的 token 级教师选择框架，通过在 rollout 期间动态路由教师来兼顾推理模式兼容性、教师能力与学生多样性。理论分析证明了不同教师路由方案在不同场景下对优化和多样性的优势。在数学、编程、内核生成和视觉推理等领域的实验表明，该方法在特定任务上的 pass@k 相比原生 OPD 及专家教师提升超过 10 个百分点。
来源：arXiv cs.LG · arxiv.org