arXiv cs.LG· Eric O. Korman·· 19 天前AI 评分35
用于仅有答案数据下高效后训练与验证的逆向推理模型
Inverse Reasoning Models for Efficient Post-Training and Verification from Answer-Only Data
AI 导读
研究人员提出一种基于仅有答案数据的逆向推理模型自蒸馏方法,通过条件生成思维链(CoT)轨迹实现高效后训练与验证。在 Qwen3-0.6B 的 Countdown 和 GSM8K 实验中,该方法单轮离线蒸馏使困难提示词的 pass@1 翻倍,并在多项尾部指标上超越拒绝采样自蒸馏。
来源:arXiv cs.LG · arxiv.org