arXiv cs.AI· Jiashuo Sun, Hao Zhang, Xueqiang Xu, Heng Wang, Yixuan Xie, Pengcheng Jiang, Zhenrui Yue, Jiajun Fan, Peiran Li, Ge Liu, Shaowen Wang, Jiawei Han·· 13 天前AI 评分41
Ask to Distill：面向同策略知识蒸馏的数据合成框架
Ask to Distill: Learning to Synthesize Data for On-Policy Distillation
AI 导读
研究人员提出 Ask-to-Distill 框架，无需参考答案或正确性奖励，通过冻结的学生与教师模型计算分布代理奖励，学习合成用于同策略知识蒸馏（OPD）的高价值问题。该方法在数学推理、代码生成和智能体任务中提升了平均表现与教师差距恢复率，匹配或超越了真实题库的 OPD 效果，相关代码、数据和模型已公开。
来源：arXiv cs.AI · arxiv.org