跳到正文
原文
arXiv cs.LG· Sumeet Ramesh Motwani, Tejas Krishnan, Alistair Letcher, Charles London, Suhaas Bhat, Huitian Jiao, Philip Torr, Riashat Islam, Christopher Summerfield, Jakob Foerster, Christian Schroeder de Witt, Qilong Gu, Shital Shah·· 2 小时前AI 评分47

Rubric Curriculum RL:利用非可验证领域的生成-验证差距

Rubric Curriculum RL: Exploiting the Generation-Verification Gap in Non-Verifiable Domains

AI 导读

Rubric Curriculum RL(RcRL)无需人工标注或更强教师模型,通过结合采样对偏好与评估准则课程利用生成-验证差距。该方法在训练超过 1000 步后仍能保持输出熵并持续提升,克服了基线在数百步即停滞的缺陷。RcRL 在创意写作中对基模型实现 70.5% 的人类胜率,在 HealthBench 全集与共识子集上分别比基模型提升 14.6% 和 25.4%。

来源:arXiv cs.LG · arxiv.org