arXiv cs.LG· Yi Wang, Rui Qian, Yu Li, Haoyang Yao, Wenjie Wang·· 25 天前AI 评分32
循环自我提升：面向循环大语言模型的动态跨循环 on-policy 蒸馏
Recurrent Self-Improvement: Dynamic Cross-Loop On-Policy Distillation for Looped Language Models
AI 导读
研究者提出面向循环大语言模型（LoopLMs）的跨循环 on-policy 知识蒸馏框架 LoopOPD 及其动态版本 D-LoopOPD，利用内部循环计算作为自身监督来源，无需外部教师即可实现循环自我提升。在 Ouro-Thinking 模型上的实验表明，仅在数学数据上训练即可提升数学推理、通用推理及代码生成表现。相关代码和模型权重将在接收后开源。
来源：arXiv cs.LG · arxiv.org