跳到正文
原文
arXiv cs.LG· Zhixia Zhang, Binqian Xu, Huaiyang Wang, Yikun Ban, Dianbo Liu·· 7 天前AI 评分34

MS-TTRL:打破多解测试时强化学习中的频率冲突

MS-TTRL: Breaking the Frequency Conflict in Multiple-Solution Test-Time Reinforcement Learning

AI 导读

研究团队提出 MS-TTRL,通过结果级自我验证分离正确性估计与多样性保持,解决多解测试时强化学习中的频率冲突。该方法引入三状态结果缓存,并利用置信度门控逆概率缩放强化罕见且可靠验证结果的学习信号。跨 2 个基准与 3 个骨干模型的实验表明,其恢复率较最优无标签基线平均提升 19.13 个百分点,性能接近有监督 IPS-GRPO。

来源:arXiv cs.LG · arxiv.org