arXiv cs.AI· Shiguang Wu, Yaqing Wang, Quanming Yao·· 15 天前AI 评分40
智能体上下文学习：Transformer 在闭环交互中能学到什么算法？
Agentic In-Context Learning: What Algorithms Can Transformers Learn in Closed-Loop Interaction?
AI 导读
研究提出了智能体上下文学习（Agentic ICL），探讨固定参数的因果 Transformer 在闭环交互中逼近主动学习、多臂老虎机和在线强化学习等算法的表现。实验证明 Transformer 能通过知识蒸馏执行三种代表性递归算法，并在有限时界内约束回报损失。此外，在没有先验动作或状态目标时，过程奖励监督与结果最优偏好的对齐程度会直接改变模型学到的决策策略。
来源：arXiv cs.AI · arxiv.org