跳到正文
原文
arXiv cs.AI· Hoang Phan, Minh Pham, Chau Pham, Chinmay Hegde, Trung Le, Qi Lei·· 27 天前AI 评分34

RGPO:基于自适应依据脚手架引导大模型推理的策略优化框架

Rationale-Guided Policy Optimization: Learning to Reason with Adaptive Rationale Scaffolding

AI 导读

研究人员提出理由引导策略优化(RGPO)框架,通过自适应利用真实依据作为临时脚手架,缓解大语言模型在同策略强化学习中的奖励稀疏问题。RGPO 依据模型当前能力动态辅助生成,并将更高奖励的解回传至无引导环境,无需辅助数据与强化学习任务格式严格一致。在纯文本与视觉语言推理任务中,RGPO 均持续优于 RLVR 基线。

来源:arXiv cs.AI · arxiv.org