arXiv cs.AI· Chen Xi, Ding Ruixue, Wang Zhigaoyuan, Zhang Fanrui, Zhang Qiang, Chen Boli, Wang Shihang, Wang Tianfu, Ren Ailin, Wang Pengyong, Xie Pengjun, Xiong Hui·· 22 天前AI 评分41
Rollout-Time Intervention:突破策略边界解锁智能体强化学习
Rollout-Time Intervention: Unlocking Agentic Reinforcement Learning Beyond Policy Limits
AI 导读
研究人员提出 Rollout-Time Intervention(RTI)技术,通过在 rollout 采样期间利用奖励端证据将错误轨迹纠正为成功轨迹,突破大语言模型(LLM)智能体在强化学习中的 on-policy 探索瓶颈。该方法过滤掉分布偏移过大的轨迹以稳定指导策略优化。在 5 个基准测试上的实验表明,RTI 持续优于强化学习基线,相关代码已开源。
来源:arXiv cs.AI · arxiv.org