arXiv cs.AI· Wenxuan Luo, Chenxi Li, Haoyue Liu, Yongxin Guo, Xiaoying Tang·· 18 天前AI 评分34
用于语言模型同策略蒸馏的条件对比外推方法 CCE-OPD
Condition-Contrastive Extrapolation for On-Policy Distillation of Language Models
AI 导读
研究者提出条件对比外推同策略蒸馏（CCE-OPD），通过掩码题目条件与对数概率对比重权化教师分布，解决学生生成前缀下教师模型误判违规推理的问题。在 200 个诊断推理状态下，该方法将偏好无效后续的比例从 27.0% 降至 16.0%。
来源：arXiv cs.AI · arxiv.org