arXiv cs.LG· Debajoy Mukherjee, Jeremy Carleton, Sushil Vemuri, Srinivas Shakkottai, Dileep Kalathil·· 22 天前AI 评分35
TreeHCA:面向多轮 LLM Agent 的后见引导探索与信用分配机制
TreeHCA: Hindsight-Guided Exploration and Credit Assignment for Multi-Turn LLM Agents
AI 导读
TreeHCA 将后见引导探索与后见信用分配相结合,用于解决 GRPO 等结果监督方法在多轮 LLM Agent 轨迹中无法区分有效与无效决策的问题。它利用参考答案似然变化重新访问中间历史并采样替代分支构建交互树,通过逆后见重要性校正和归一化树回溯计算轮次级优势。
来源:arXiv cs.LG · arxiv.org