arXiv cs.LG· Zhehao Zhou, Tongrui Su, Shengyu Zhu, Da Li, Zeyu Liu, Jun Zhu, Xueqi Cheng·· 2 小时前AI 评分36
VITAL：在隐空间推理中学习何时显式思考
Learning When to Think Aloud in Latent Reasoning
AI 导读
研究人员提出混合推理框架 VITAL，通过轻量门控头在隐空间推理中选择性输出关键 token 作为锚点。该框架结合课程监督训练与强化学习，有效平衡推理正确性与 token 生成开销。实验显示，VITAL 相比全隐式基线在 GPT-2 和 Llama-3.2-1B 上的相对平均准确率分别提升 9.6% 与 5.1%，并在 Qwen3-1.7B 上以更短轨迹实现更高准确率。
来源：arXiv cs.LG · arxiv.org