StepSafe:通过上下文感知安全推理实现适时干预
研究人员提出了结合 ASPO 训练框架的步级推理安全护栏 StepSafe,通过前缀级阶段对齐与自适应反馈自蒸馏实现适时干预。该方案在每一步引入违规分类体系和干预窗口,并利用自进化多智能体红队测试扩展数据。StepSafe 在 5 个智能体安全基准上达到开源护栏 SOTA,其 4B 模型的 Youden's J 指标达 53.0(对比 46.2)。
研究人员提出了结合 ASPO 训练框架的步级推理安全护栏 StepSafe,通过前缀级阶段对齐与自适应反馈自蒸馏实现适时干预。该方案在每一步引入违规分类体系和干预窗口,并利用自进化多智能体红队测试扩展数据。StepSafe 在 5 个智能体安全基准上达到开源护栏 SOTA,其 4B 模型的 Youden's J 指标达 53.0(对比 46.2)。
研究团队推出开源一体化平台 MAI-Gym,统一了移动端、电脑和 Web 环境下的 GUI Agent 评测、数据收集与在线强化学习训练。该平台最高支持 20,000 个并行环境实例,并支持自动合成可重置的模拟应用与跨应用任务验证。
推荐理由:原文展示了通过可重置的模拟应用合成任务进行在线强化学习并直接迁移至实体手机操作,为低成本构建真实图形界面智能体提供了可行路径。
研究人员提出面向工程智能体动作与反馈层的通用契约 RAC,让智能体决策工件应满足的关系,并由专用工具推导具体后果。在 PCB 布局、布线及修复任务中,RAC 在全部 9 个受测模型上取得最高的一次通过率,平均达 90.9%,优于基线方案的 74.0%。在作业车间调度任务中,其质量通过率达 96.3%,显著高于代码中介交付的 59.6%。
研究人员提出面向智能体技能的非精英进化优化方法 SkillNEO,通过将“当前使用的版本”与“继续改进的版本”分离筛选,保留低得分版本的有效修改并支持后续迭代。
针对自我改进 AI 智能体在部署后技能库发生漂移导致性能脆弱的问题,研究团队提出了面向部署的评测协议 CODA。该协议通过模拟技能漂移,引入了语义保留编辑下的一致性率以及对受损技能的抵抗率等新指标。在 4 种协同进化方法和 5 个基准测试中,最差情况下的成功率比峰值低 5-13 个百分点,抹去了技能库相较无技能基线 52-93% 的性能增益。
研究人员提出一种无需奖励、裁判模型与标准答案的自我改进 AI 智能体,通过冻结模型在领域特定语言(DSL)上运行双层嵌套循环拓展计算能力。内循环通过双表达式一致性将可回答问题集扩大约 3 倍,外循环基于守恒定律准入新算子并成功拦截全部 138 种错误算子变体。该机制在商业账本和临床问诊领域将可回答集分别提升逾 10 倍与近 20 倍,且能跨模型族泛化。
研究人员提出多模态 Agent 自我进化系统 EvolvingBrain,通过自适应技能系统作为核心大脑以提升开放世界交互能力。该系统包含从轨迹中提炼经验并构建包含 Domain、Plan 和 Action/Trap Skills 的分层技能自进化模块,以及利用结构化摘要记忆指导技能融合的状态感知自适应执行机制。
研究人员推出 ARIA 框架,通过学习在多智能体系统运行过程中何时以及如何修复错误,避免局部差错扩散导致任务失败。该研究跨 4 个框架、6 个 benchmark 与 8 个宿主模型收集了超 24,000 条轨迹,构建出包含 3,953 对经执行验证修复的 ARIA 数据集。训练后的紧凑模型在事后与运行时环境中均展现出强修复性能,并能泛化至未见过的框架与模型。
研究人员提出 IneqAgent,这是一个将大语言模型推理与符号计算相结合的智能体框架,用于在 Lean4 中进行不等式证明。它利用引理级蒙特卡洛树搜索协调引理构建与后端选择,并借助平方和、Bernstein 等符号后端生成证明凭证。结合 DeepSeek-V4-Flash 时,该方法在 4 个基准测试中解决 186 道题目中的 175 道(94.09%),以更低的平均推理成本取得了最高总成功率。
研究团队推出 Agent 度量系统 AlphaDiana,针对可验证推理任务,解耦数据集、Agent、环境与评分模块,支持对工具、技能和记忆组件进行微观干预评测。
研究人员推出包含 6 类游戏共 180 项任务的 RealtimeBench,用于评估推理期间环境持续运行的 AI 智能体表现。测试显示 GPT-6.1-sol 在暂停时占优,但在实时运行时落后于更快的 Jev。为此提出的双时间尺度自改进方法 TORSI 通过慢速导师离线指导快速学生,两轮迭代将 Jev 的平均测试得分从 13.51 提升至 24.19。
研究人员提出一种基于 AI 智能体辅助的实验策略,成功在一台 3 量子比特核磁共振处理器上开发并迁移至另外四台设备。AI 智能体负责评估实验证据、选择后续测量并调整流程,结合设备专属校准、控制脉冲优化与测量完成 Grover 态制备任务。测试中重构主特征态的目标态布局数达 0.910 至 0.959,相对理想值 0.945 的偏差低于 3.8%。
研究人员提出 CausalEvo 方法,用于在固定模型权重与规则数量的前提下,通过因果评估任务反馈来决定医疗 LLM 智能体文本技能的保留与替换。在包含 120 个保留案例的 6 项 MedCalc-Bench-Verified 任务中,CausalEvo 达到 60.00% 的准确率,优于无技能的 51.67% 与 SkillOpt 的 55.83%。
Grupo Boticário 运营着一个专有 AI 智能体平台,能够自主解决分销商高达 80% 的运营请求。该举措促使销售团队摆脱常规事务,转向承担顾问角色。
Localiza 采用 ChatGPT Enterprise、OpenAI API、Codex 及 60 多个专用 AI 智能体来重组工作流程。该公司正借助这些技术与工具,构建 AI 原生的出行体验。
研究人员提出了一种用于将智能体 AI 集成至企业软件的技术中立参考架构,将各类架构能力归纳为 10 项核心职责,并定义了边界不变式、跨职责交互与变异点。该架构在现存面向服务的 ESG 组合分析与交易前合规系统中落地验证,实现了其中 7 项职责,并成功映射了一套独立发布的智能体架构。相关部署与记录结果已作为复现包提供。
研究人员推出生存沙盒基准 ASIWorld,结合持久世界状态、角色范围观测和可编程异步接口,用于评测自主 AI 智能体的持续目标执行能力。在对 9 种智能体配置的探索性研究中,8 种完成了生产任务,6 种完成了生产与探索双重任务。评测不仅关注任务成功率,还综合分析了发展成就、生存成本及准备、战斗与恢复等执行行为。
研究者提出了反思型语言 AI 智能体在保留原生控制器下实现次线性反事实遗憾的充分条件,解决局部反思在资源约束下缺乏长期性能保证的问题。该研究建立了资源敏感的转移机制以约束全状态部署偏差,并通过局部生成可靠性推导出累积生成机会界。全部 13 个理论结果的条件证明链均已在 Lean 中完成形式化验证。
研究团队推出多智能体分析程序合成框架 LYNX,通过规划、生成、验证和精炼的三智能体闭环工作流,将 LLM 数据分析转化为模式与知识约束的求解任务。
ProgAgent 提出完整的编程式工具调用(PTC)训练技术栈,通过运行期变量存储中间结果以避免上下文膨胀与编排崩溃。该方案仅用 4 种环境规模下的 215 个合成任务完成两阶段训练,在 4 个基准测试中均优于同规模基线。在 LOCA-bench 的 64k-token 环境状态下,ProgAgent-14B 取得 30.7% 通过率,而参评基线得分为零。
针对摄像头优先 AI 智能体面临的短暂目标交互(ETI)时效难题,研究团队提出了感知截止时间契约,将硬性记忆截止时间与软性推理截止时间分离。该双截止时间架构包含常驻非语义快速路径、主动记忆机制以及由多模态模型和工具构成的延迟深思层。实测显示前沿模型短回答耗时达 1.2-9.3 s,该方案确保视觉证据在单路径推理延迟导致目标消失前被持久化保存。
研究人员提出工具增强策略智能体 TASA,通过总结并利用优化轨迹提升组合问题的求解质量。TASA 将优化过程分解为可追踪的策略选择,并结合 LLM 构建的问题专属工具与自适应工具规划器高效更新解。该方法确立了持续探索下的局部收敛性,并在共享评估预算下验证了优异的解质量与搜索可追踪性。
研究人员推出评测基准 DSABench,联合评估多数据库 AI 智能体在数据源发现、跨源协同和工作流执行上的能力。基准包含 815 个经人工审核的任务,其中 618 个需要多个数据库协同,并在 RouteEnv 环境下进行无特权测试。
研究者提出 RASSG 方法,用于在流式语音交互中联合控制工具的启动与取消,以应对用户自我修正导致的失效执行。RASSG 在连续 3 次语音识别结果产生相同非空参数时启动工具,并在产生不可逆影响前的最后可行时机,结合参数失效风险与执行成本决定是否取消。
研究人员提出 PEARL 强化学习方法,在无需额外 Critic 的情况下改善多轮 AI 智能体的局部信用分配。该方法通过定位分叉决策并聚类历史失败与成功记忆中的循环模式,选择性强化低奖励决策的负优势。实验显示,PEARL 在 AppWorld 的 4B 和 8B 规模上均超越 ARPO,并在 ALFWorld 4B 规模达到 97.9% 的平均成功率,高于最强基线 2.7 个百分点。
研究人员提出了审视递归自我改进(RSI)的两个互补视角,以推动语言智能体在参数、记忆、技能和代码层面的持续自我迭代。其一建立了包含更新目标、更新组织、更新调度与范围、反馈与选择 4 个组别共 9 个设计维度的统一分类法;其二结合深度学习与进化计算等机制,并总结了在线、离线及离线到在线设置下的评估基准。
研究提出先在前沿 LLM 上通过提示词迭代业务逻辑,再将真实线上行为通过 SFT 蒸馏到小语言模型(SLM)的部署方案。在护理排班场景中,基于 11.6k 条线上决策微调的 LoRA Qwen3-8B 达到 0.913 一致性,表现比教师模型 GPT-5.4-nano 更稳定,盲测中以 48 比 29 获专业人员认可,并将中位数延迟降低约 2.5 倍且大幅降低成本。
研究人员提出面向序列动作选择的 CB-Agent,将概念上下文学习引入交互式智能体。该方法从专家轨迹中提取动作决策,通过极大似然拟合概念向量,并结合冻结的语言模型特征与先验来对候选动作评分,在 ReAct 交互中无需将演示轨迹放入动作评分上下文。
研究人员提出 PsyMemBehav,通过两级身份到行为推理将心理学画像和检索记忆映射为平台行为,并构建了涵盖 Reddit、Bluesky 和 Twitter 上 5862 名用户共 5.57M 条行为的 PsyMemBehav-bench。
研究人员推出 FDE-Bench,这是首个基于真实客户项目构建的基准,用于评估 AI 智能体在需要交互式需求澄清与迭代优化下的端到端交付能力。该基准包含涵盖组合优化与机器学习的 49 个案例,由智能体向模拟客户澄清需求并交由特定评估器验收。在 18 种智能体配置测试中,最高平均交付得分仅为 0.5510(FDE 参考值为 1.0),最高交付成功率仅有 6.12%。
研究者提出了面向泛血管介入研究的协议 ScienceBuddy-PV,通过结构化证据账本、器械-血管本体与弃权契约等机制规范递归流程。在锁定的 ARCADE 测试集上,基线卷积模型取得 0.475 的语法 Dice 与 0.231 的狭窄 Dice,启发式门控接收了 76.7% 的狭窄帧输出。该研究仅审计了固定组件且未实际执行外环递归改进,旨在使支持与弃权可衡量。
Reels-RSI 是一个面向代码渲染解说视频的开源导演框架,将视频生成定义为可测试与可审计的代码程序,并在程序级别而非模型权重或提示词上实现自我改进。该系统将修订经验编译为附带单元测试的规则,能对历史与当前生成的帧代码进行回溯审查和防护。实验表明该机制有效拦截了潜在生成缺陷并缩短了修改循环,相关代码、规则库与数据集均已公开。
论文提出一种基于便携技能的轻量级 Agentic RAG 方案,通过自然语言指令、轻量工具及大模型生成的类维基导航索引,替代复杂的文档切块和重排流水线。该方案仅需 1 到 2 个工作日即可在 Claude Code 等框架中实现,在客户支持流程生成中达到 99.2% 的流程等价度与 83.3% 的证据充分性。其单次推理耗时约 90 秒,主要适用于语料成熟、容忍延迟且有人工审核的场景。
研究人员通过设计科学研究方法将空间智能体 AI 编排框架 ANASSA 从高层架构职责细化为面向实现的低层架构。该设计将高层职责转化为包含 47 个逻辑角色、版本化任务图、强类型契约、显式运行时状态与空间验证机制等可执行架构结构。该架构在不绑定特定 AI 模型、地理空间平台或部署环境的前提下,实现了受治理空间智能体工作流的可检查、可重构与可测试性。
研究者推出神经符号基准 ACED-Bench,用于评估 LLM 智能体主动获取因果证据并做出决策的能力。其核心榜单 ACED-Core 包含 180 项因果推断与决策任务,辅以含 150 题的资格检查 ACED-Qual,评测了 7 款当代与 2 款早期 LLM。结果显示,智能体常出现测试错误干预、遗失相关证据以及在证据充足后仍无法及时停止等失败问题。
研究者提出了即插即用的递归式 AI 智能体执行框架 Harness^2,通过任务级与框架级双层递归,在无需真实标签验证器的情况下自适应优化执行环境并泛化到新任务。
研究者提出一种兼顾隐私与性能的混合架构,由云端大模型生成智能体程序,在设备端执行时通过普通函数调用将涉及用户数据的局部理解任务交给本地 SLM 处理。在 AppWorld 基准测试的所有 6 种骨干模型与测试集组合中,该方法将纯代码智能体的成功率最高提升了 14.9pp。该方案在确保用户私有数据完全保留在设备端的同时,大幅弥补了与全云端 ReAct 循环之间的性能差距。
研究人员通过反事实干预方法探究了无模型强化学习算法是否会在其价值函数中形成环境的世界模型。在 Crafter 环境下的 Proximal Policy Optimization 智能体实验表明,尽管仅以优化奖励为目标进行训练,其价值函数依然学会了钻石收集规则、水和食物对健康的影响以及物品清单启发式规则等概念。该研究同时探讨了相关可视化对 AI 安全的启示及当前强化学习智能体的局限。
研究人员在网络安全威胁检测基准 CTI-REALM 上评估了 19 个开源权重模型和 7 个闭源模型,发现在放开消息轮数限制后,开源权重模型能以不足十分之一的成本匹敌最强闭源模型,甚至取得最高奖励得分。研究指出原基准的消息限制掩盖了真实表现,价格与模型能力并不完全挂钩。此外,针对工作流各阶段的细分评估显示不同模型在不同阶段各具优势,宜按阶段进行路由调用。
研究人员推出 LHTB 2.0 基准,包含涵盖 13 个领域和 8 种任务类型的 77 个任务,并将评测时长从 90 分钟延长至 3 小时,每 30 分钟记录一次检查点以衡量智能体的持续进展。