追踪编程智能体玩 ARC-AGI-3 的思维轨迹:对持续学习的启示
一项研究通过让基于冻结基础模型的编程智能体挑战交互式推理基准 ARC-AGI-3,提出了一套通过脚本与笔记追踪其思维轨迹的度量协议,白盒分析其持续学习机制。在 2 个模型家族中 3 个骨干模型的 7 次评估显示,跨任务调用的脚本仅占 33/630,智能体会遗弃 74% 的已有脚本并重写通用规则,笔记亦只追加不修改。
一项研究通过让基于冻结基础模型的编程智能体挑战交互式推理基准 ARC-AGI-3,提出了一套通过脚本与笔记追踪其思维轨迹的度量协议,白盒分析其持续学习机制。在 2 个模型家族中 3 个骨干模型的 7 次评估显示,跨任务调用的脚本仅占 33/630,智能体会遗弃 74% 的已有脚本并重写通用规则,笔记亦只追加不修改。
新研究提出 SELF 框架,通过联合优化环境反馈建模与事后自蒸馏,解决无奖励环境下语言智能体的训练难题。在 Qwen3-8B 上,SELF 在 τ-bench 成功率上比 SDPO 和 GRPO 分别高出 6.4 和 4.1 个百分点,在 AppWorld 任务目标完成度上分别提升 10.71 和 3.57 个百分点。
RIT-RAG 将内容检索与结构导航结合,通过检索文本块动态诱导跨文档子树,并由 LLM 智能体自主导航与筛选阅读。该方法在金融、科学与客服基准上的回答准确率均超越图结构和智能体基线。在包含 284 万技术文档网页的 EntQABench 上,其在三种 LLM 下相比最强基线提升了 6.8 至 11.4 个百分点。
研究人员提出基于多智能体强化学习的自进化 LLM 数据合成协同训练框架 SynCo。该框架联合优化两个独立参数化的智能体:Synthesizer 根据能力状态构建训练任务,Reasoner 则从中学习并提供互补奖励,实现解题策略与训练分布的共同演进。在 8 个数学推理基准测试中,SynCo 显著优于现有合成数据方法和对照基线,大部分收益源自此前未解决的问题。
研究人员提出面向物理建模的自我演化 AI 科学家 EvoSim,可利用实验差异驱动机理与方程修正并协同更新多智能体系统。在工业电池建模测试中,其预测锂金属析出起始荷电状态的 MAE 为 1.79%,车载工况动态电压预测 RMSE 达 7.62 mV,精度超越人类专家模型。该自我演化机制使模型与物理误差较基线降低约 36%。
研究人员提出面向大语言模型 AI 智能体系统的步骤表征学习方法 ReCast,用于定位引发系统故障的最早根因步骤。该方法通过筛选相关层、构建互补的模式与偏差特征,并利用对比与排序目标训练编码器,将冻结 LLM 的隐藏状态转化为归因表征,同时配套推出了训练数据集 ReCast-2K。
Mine Odyssey 是一个利用 Minecraft 重建真实场景的空间智能体评测基准,包含 30 个地点的 180 项导航任务。在 8 款受测模型中,GPT-6 Astra 取得最高的 85.6% 成功率,Claude Opus 5.5 达 73.9%,最强开源模型 DeepSeek-V4.1-Flash 为 23.9%,表明当前模型在空间智能体能力上仍有很大提升空间。
研究人员提出多智能体框架 MedBenchAgent,将医疗 VLM 基准构建表述为受限编译过程,以系统化推导基准规范并生成评测项目。该框架采用基准中间表示(BIR)解耦规划与实例化阶段,取得 90.9% 的 Task-Space F1,抽样的 1,000 个项目中 994 个通过人工审核。该框架已成功迁移至专门医疗领域并评测了 12 个 VLM。
研究人员提出了全双工语音协作系统 DuplexAgent 及其闭环改进框架 Duplex-Harness-RSI,将语音交互与异步委派任务的协调逻辑解耦为六个可编辑模块。系统利用模拟器自动生成带时序的测试对话,并通过委派池中的推理大语言模型与编码智能体自动诊断失败轨迹并更新模块配置。实验表明,该系统在保持低延迟打断响应的同时,提升了口语知识问答与可执行工具调用的评测表现。
针对长程任务规划难题,研究人员提出工具感知递归分解方法 TaReD,将工具按功能组织为能力层级,驱动 AI 智能体按需发现工具并递归分解出匹配阶段能力的子任务树。在复杂真实世界任务实验中,该方法将端到端任务成功率相比对比基线最高提升 40 个百分点,相关实现已在 GitHub 开源。
研究者提出闭环科学发现智能体 LLM-IDEA,其搭载的可辨识性引擎可在探索进入瓶颈时计算出能力受限、同类设计可解或证实穷尽三类判定。测试显示,该引擎在 ODEBench 上判定了 60/62 个系统的可辨识状态,并在 Alien Universe 基准中将深度至少为 3 的发现成功率从 1/8 提升至 8/8,避免了对实验推进方向的盲目猜测。
研究提出无需重新训练的 FC 与 PS 两种推理期记忆准入治理机制,以解决 LLM 智能体持久记忆带来的阿谀与跨域泄漏问题。相比逐字注入,FC 与 PS 在包含 4 项任务、每项 300 样本的外部基准上使综合失败率分别降低 6.7 和 8.8 个百分点,跨域泄漏最多减少 29.5 个百分点。不过两种方案均增加了个性化失败率,在降低安全风险的同时仍未解决保留有益记忆的问题。
研究团队提出多智能体框架 GenUI-Harness,通过工具智能体与 GUI 编程智能体协同生成临时结构化界面,以替代认知负荷较高的纯文本交互。针对交互式 UI 强化学员的训练难题,研究引入了轻量沙盒 Dynamic UX 与监控奖励分布的元奖励机制 Reward Auditor,并发布了包含 10 个领域数据库的评测基准 UI-TAU Bench。
研究团队推出 AgentHorizon 基准,用于评估智能体裁判在长流程计算机使用任务中的判断能力。该基准涵盖跨 3 个操作系统的 166 小时真人轨迹与 1,373 个任务,轨迹最多含 300 张截图与动作。评测显示表现最优的智能体裁判 GPT-5.5 在 AH 子集取得 80.9% 平衡准确率,而工具使用反而降低了开源模型的表现。
研究将 LLM Agent 常驻上下文的筛选建模为容量限制选品问题,以解决盲目追加指令导致的 token 成本上升与性能退化。理论证明最优文件大小存在上限,单纯追加所有正收益指令在净价值上可能远劣于选取最优子集,且直接删除被智能体忽略的指令会误删有益规则。实验进一步证实,来自真实上下文文件的无关规则会降低大语言模型的依从性。
研究人员推出 StoreBench 动态电商模拟环境,用于评估和训练智能体在不确定性下的长程规划与经济决策能力。评测的 7 款前沿 LLM 中表现最好的 DeepSeek-V4-Pro 任务通过率仅为 49%,低于人类专家和启发式脚本基线的 97%。通过 GRPO 后训练微调后,Qwen3.5-27B 在测试任务上的平均综合得分从 0.136 提升至 0.373。
一项新研究首次形式化并评估了 LLM 仅通过交互识别社区规则的“规范能力”,发现基线 LLM 智能体无法学会这些规范。测试显示规范遵循对规范风格和模型高度敏感且缺乏泛化性;当无关特异行为与真实规范并存时,智能体会不加区分地照搬噪音,即便受罚也依然模仿。研究表明当前 AI 擅长行为模仿,但缺乏识别社会强制秩序的能力。
研究人员针对千问 Qwen3.6-27B 和 Qwen3-4B 在 MLE-Bench Lite 与 Zork I 基准上的测试表明,仅在提示词中指定时间预算时,小规模 LLM 智能体无法有效控制时间。
研究提出 Plan-and-Patch 智能体规划框架,利用扩散语言模型并行生成结构化计划,并在固定前后步骤的前提下局部修复计划。在未经特定训练的 Natural Plan 上,扩散规划器 DreamReasoner-8B 的计划修复成功率达 53.7%,接近自回归模型 Qwen3-8B(27.0%)的两倍。
研究者提出了轨迹对齐指令翻译器 TGIT,在保持空中视觉语言导航智能体 OpenFly 冻结的前提下,将用户简短的意图型指令转化为可执行指令。TGIT 将弱指令输入的成功率提升至 37.93%,并零样本迁移至真实人类指令,将成功率从 11.33% 提升至 32.51%。
研究提出一种合规约束下的 LLM 智能体自我进化机制,在保持模型权重固定的前提下,仅允许修改指令、工具调用逻辑等运行时测试框架(harness),并通过准入门控在部署前记录哈希链日志。在模拟信贷流程实验中,该门控从 7,449 个候选变更中准入了 144 个,且均未在保留历史数据上恶化错误;而无边界检查则准入了 309 个有害变更。相关机制已被映射至欧盟 AI 法案的高风险信贷评分条款。
研究者提出了一个基于有界验证与隐蔽终端随机性的理论框架,用于形式化分析 Agentic AI 系统的验证能力与自我改进极限。研究证明,在统一完备解释器与固定验证协议下,一致有界的递归自我修改仍严格保留在同一验证复杂度类内。框架还将自我改进声明与正确性、容许证据及条件选择误差控制等要求直接绑定。
受控遗忘机制允许工具调用 AI 智能体将历史工具输出替换为简短注释并归档以供恢复,无需特定模型训练。在 OpenTelemetry 调试测试中,该方法使 prompt token 从 912,492 降至 231,951,累计输入 token 减少 50%,预估 API 成本从约 4.38 美元降至 1.28-1.44 美元,但耗时增加 17%。其资源节省表现高度依赖具体工作负载。
研究者提出名为 Synthesis Through Simulation(STS)的免 schema 数据合成范式,利用 LLM Agent 在模拟企业环境中调用策略 API 执行操作来生成连贯数据。
Postman 与 AWS 联合拆解了 Agent Mode 接入成熟软件的生产架构,核心解决工具膨胀与上下文治理瓶颈。系统通过向量检索将 170 多个工具动态精简至约 15 个,并采用专用上下文处理器替代渲染层数据,同时解耦了界面状态与工具操作。底层基于 Amazon Bedrock 调用 Claude 模型,配合跨区域推理与多层 Prompt 缓存应对流量突发并降低成本。
推荐理由:原文结合生产实测指出了工具膨胀门槛与上下文瓶颈,展示了成熟软件接入智能体时的工程化落地方案。
AWS 汇总了 9 月在 Amazon Bedrock、AgentCore 及 Strands 的重要更新,包括公测支持 OpenAI 模型的托管智能体及上线多款前沿模型。
研究者提出 MemoWM 框架,利用世界模型的共享预测压缩长期 AI 智能体保留的经验信息并重构省略内容。在 5 个长期智能体记忆基准上,MemoWM 取得 42.42% 的平均回答准确率,比最强基线高出 2.62 个百分点,同时相比存储效率最高的基线 MIRIX 减少 53.9% 的平均经验存储。该项目相关代码已开源。
针对表格数据对话式任务消歧中的 oracle 信息泄露问题,研究者提出了解耦提问与求解策略的形式化框架,并推出统一 6 个消歧数据集的 text-to-SQL 基准套件 AmbiTab。该框架提供了免裁判泄露诊断指标,并通过强化学习训练提问策略。实验表明,训练后的提问策略在全部 6 个数据集上提升了消歧指标,并在 5 个数据集上提高了任务成功率。
开发者正将 GPT-6 Astra 等前沿 AI 智能体与 NVIDIA Omniverse 结合,通过自然语言指令快速构建物理 AI 与数字孪生仿真应用。相关实践包括从实景扫描重建可编辑仓库结构、开展燃气轮机故障假设分析,以及调用包含超 2,000 个 USD 资产的 SimReady Central Library 搭建场景。
AWS 介绍了 Incarna 与 BlockRun 利用 Amazon Bedrock AgentCore payments 实现 AI 智能体按次推理付费的架构方案。
对抗智能体可利用与受害者探索相关的泄露信号注入外部性,将多智能体学习动态引向新的稳态“欺骗纳什均衡”(DNE)。欺骗性老虎机学习(DBL)动态能在放宽二阶平滑性条件并保持最优收敛速率的同时,收敛至 DNE 的任意小邻域。该研究明确了欺骗改变稳态的条件及对成本的影响,并在资源分配博弈中验证了这一脆弱性。
研究团队提出首个针对强化学习训练智能体的结构化剪枝框架 TAP,通过轨迹锚定恢复降低长程智能体的高昂推理成本。在移除 60% FFN 通道的情况下,TAP 在 7B 密集智能体的 ALFWorld 与 WebShop 评测中分别保留了 99.2% 和 88.0% 的任务成功率,单次成功任务的 GPU 时间分别减少约 22% 和 17%。
研究提出 KL 正则化策略优化(KLPO)框架,用于解决大语言模型(LLM)智能体异步强化学习中的采样与训练策略不匹配难题。KLPO 将 KL 正则项锚定在采样器上,无需重要性权重与 Critic,仅凭每个提示词单次 rollout 即可从终止奖励计算无偏梯度。此外,SPPO、GPO、REBEL 与 BPO 均被证明是 KLPO 的特例。
研究团队提出 GraphOPD,首次将图结构增强引入大语言模型智能体的在线策略蒸馏。该方法利用环境状态变化构建步骤依赖图,融合图上随机游走平稳分布得分与师生策略散度信号,将监督精准聚焦于关键步骤。在 ALFWorld、WebShop 和 SearchQA 评测中,GraphOPD 较最强基线最高提升 5.8 个百分点(+5.8 pp),并展现出域外工具推理迁移能力。
研究人员提出免训练框架 KITE,通过仅传输关键层 KV 状态进行面向任务的隐式多智能体协作。该方法依据接收端轨迹失真标准筛选任务关键层,并将其作为自回归隐式推理的入口。在 7 个基准测试中,KITE 相比全层 KV 通信降低了 28-36x 的通信量,实现最高 3x 的端到端推理加速,准确率最高提升 23.3 个百分点。
针对 Agentic AI 在高风险环境中的认知漂移风险,研究者提出了包含状态分级与李雅普诺夫有界共识框架(LBCF)的安全治理框架 BRaVeS。该框架将领域专家约束编码为不变锚点并在认知风险增加时限制自主权。在 HAI 22.04 工业控制系统数据的离散事件 Monte Carlo 模拟中,LBCF 实现了有限步收敛且无安全违规。
NVIDIA 联合微软宣布协同打造 Windows 本地 AI 智能体软硬件生态,正式上线操作系统级安全底座 Microsoft Execution Containers(MXC),并推出 RTX Spark 硬件平台。
推荐理由:软硬件协同让本地智能体获得系统级安全容器与统一内存支持,为端侧大模型常驻运行提供了工程落地参考。
AWS 宣布在 Amazon Bedrock 及 AWS 上的 Claude Platform 正式上线 Claude Haiku 5.5。该模型面向高并发与成本敏感型场景及子智能体任务,多数任务成本较 Claude Haiku 4.5 降低约 75%,并首次引入努力度控制以平衡成本与智能水平。
推荐理由:文中明确了 Haiku 5.5 搭配 Opus 5.5 的子智能体分工,并给出 Bedrock 多种 SDK 接入方案,便于评估规模化落地的调用成本与架构设计。
针对多智能体强化学习中智能体跨时段协作的交错参与场景,研究团队提出了 Staggered Participation Learning(SPL)训练增强方法。SPL 分别通过前瞻获取监督规范早期智能体的信息留存,并以结果监督训练后期智能体利用信息。
研究人员提出医疗大语言模型认证弃权框架 ProbeGuard,通过分析共识形成的动态过程而非最终投票结果,解决多轮共识中全票犯错的问题。该方法结合共识轨迹、理由语义熵与主动反证探测,将区分共识正误的指标从随机水平提升至 0.696 AUROC。在 MedQA 测试中,该规则能在 9.0% 的观察选择性风险下回答 60% 的全票一致问题。