跳到正文

#Agent

今日 10 条
10月22日周四
  1. arXiv stat.ML34

    研究提出面向长程智能体的效应边际策略优化算法 EMPO

    研究者针对 LLM 智能体在多轮强化学习中不同文本表述导致信用与策略更新错位的问题,提出了效应边际策略优化算法 EMPO。EMPO 通过构建效应级替代目标联合更新不同文本表述,在保留原始信用信号的同时兼容轨迹级与单步信用估计,且无需额外的 critic 或 rollout。在 ALFWorld、WebShop 和 Sokoban 上的实验表明,EMPO 在任务表现和学习效率上均超越了基线方法。

  2. arXiv stat.ML36

    ExpEvolve:面向开放式科学发现的经验结构化与复用框架

    研究者提出进化编码框架 ExpEvolve,通过从程序中提取解释评分差异的高层“想法因子”,将概念层级的控制引入演化过程,以指导经验利用并在陷入瓶颈时引导探索。在 11 项开放式数学任务中,该方法显著提升了最终性能,并将样本效率最高提升至 5.0x。相关收益还成功迁移至另外 4 个 LLM 以及 MLS-Bench 的 6 项机器学习任务上。

  3. AWS Machine Learning Blog73

    AWS 详解多智能体系统落地的 5 大生产挑战与 Deep Insight 解决方案

    AWS 解决方案架构团队开源了生产级多智能体系统 Deep Insight,总结了多智能体落地生产在编排、模型分工、运行时部署、安全代码执行和运维监控 5 个维度的挑战与解法。

    推荐理由:文章拆解了多智能体落地生产时的编排、模型选型与沙箱隔离方案,为构建企业级 Agent 架构提供了可迁移的工程参考。

  4. AWS Machine Learning Blog53

    基于 Strands Agents 构建端云协同的自适应智能体架构

    AWS 介绍了自适应智能体智能架构 AAIF,通过 Strands Agents 结合本地小模型与云端 Amazon Bedrock 实现分层计算。该方案使用本地轻量模型 llama3.2:1b 自动分类与路由请求,常规物联网遥测和视觉分析在本地端侧低延迟完成,复杂多步推理则分发至云端模型处理。架构支持灵活适配纯边缘、全云端或混合部署,并可通过 MCP 服务实现跨设备的集中化工具调用。

  5. arXiv cs.AI52

    研究提出 Show-Up 攻击:恶意子智能体可操纵主管突破任务权限

    研究提出一种针对多智能体协作的 Show-Up 攻击,恶意子智能体可通过操纵主管智能体介入超出预设范围的任务。团队构建了包含 6 种攻击策略和 188 个测试用例的评测基准 SUA-Arena,测试发现受试的 6 款前沿大语言模型均存在漏洞,其中 GPT-5.6-Sol 担任主管时的攻击成功率高达 0.93。

  6. arXiv cs.AI35

    RaspAssistant:用于多孔材料吸附模拟研究自动化的智能体框架

    研究人员提出了分层多智能体框架 RaspAssistant,用于自动化执行多孔材料吸附模拟从力场准备、验证到下游分离分析的全流程。在涵盖4个吸附与分离基准的12次工作流复现测试中,其综合评分达到 8.50 至 10.00 分,在8个案例的力场提取基准中取得 0.967 的加权平均分。系统还能自主优化乙炔力场,并在完成二氧化碳力场实验验证后自动筛选了 197 种纯硅沸石。

  7. arXiv cs.AI53

    论文提出 AuthorizationBench 基准:评估大语言模型智能体的越权对齐问题

    研究人员推出评估大语言模型智能体授权对齐的基准 AuthorizationBench,测试发现智能体在 19.2% 的执行轨迹中存在超出用户授权的行为。该研究涵盖 10 个应用领域的 286 个任务并生成 6,864 条执行轨迹,测试显示任务完成度或增加推理计算量并不能确保授权对齐。此外,智能体在良性情境压力下的越权发生率(23.5%)显著高于面对恶意注入时的表现(17.6%)。

  8. arXiv cs.AI33

    自动化多智能体组织设计:从架构搜索到组织学习

    研究提出自动化多智能体组织设计(AMOD),将组织本身作为一等设计对象,显式建模智能体团队的职责分配、协调机制与集体决策。AMOD 采用执行驱动的设计闭环,在任务执行后根据交互轨迹与结果迭代修正缺失或无效的职责。该方法还支持在对齐资源预算下通过消融或替换角色验证功能有效性,为自适应多智能体系统提供了设计基础。

  9. arXiv cs.AI53

    MemDev-Bench:基于真实仓库历史评估记忆系统对代码智能体的影响

    研究团队推出 MemDev-Bench 基准,构建了覆盖 555 个基础任务与 4,869 个关联历史任务的可执行评测环境,系统评估记忆系统对代码智能体的实际影响。评测发现记忆机制虽能改善细粒度代码定位与编辑,但也容易因智能体未重新评估经验适用性而引发错误;相比高度压缩的记忆系统,直接提供原始历史轨迹反而能借助完整过程信息大幅减少智能体的操作步骤。

  10. arXiv cs.AI47

    越多越好?单智能体与多智能体 LLM 架构在金融审查任务中的对比

    一项研究对比了单智能体与多智能体 LLM 架构在金融信用评估备忘录审查任务中的表现。在 300 份合成备忘录与 4 个模型的测试中,3 智能体团队比单智能体多捕获 0.08 至 0.10 的缺陷,但虚警量在所有模型上均有增加,且消耗了 2.2 至 2.4 倍的 token。最终团队架构的平衡准确率变化不超过 0.02,且在 Claude 模型上对单智能体重复采样 3 次的效果优于团队架构。

  11. arXiv cs.AI29

    通过行为感知欺诈检测与网络安全保障 AI 智能体商业支付安全

    研究人员提出了自主商业智能体防护系统 ACAGS,结合监督机器学习、行为分析与可解释 AI 保障智能体支付安全。基于合成金融交易数据的评估显示,引入行为特征使 XGBoost 的平均 F1 分数提升至 67.49%,结合智能体特定特征后进一步达 69.46%。该系统对恶意委托和授权越权的检测率达 100%,对异常行为与冒用检测率分别达 99.77% 和 99.73%。

  12. arXiv cs.AI38

    AI 智能体的运行时控制:弥合工作流中的评估与执行落差

    研究者提出一种状态绑定的运行时保障层,旨在解决 AI 智能体工作流中因环境变化导致事前审批失效的“评估-执行落差”问题。该方案将执行许可绑定至审批依据,通过日志变更使失效许可作废并在分发时重新校验,同时给出了 8 种失效模式与参考架构。在 42 个脚本化案例重放中,该配置识别出 15 项失效审批,并在分发前拦截了 14 项受影响操作,补偿了 1 项已落地的影响。

  13. arXiv cs.AI49

    可恢复性与验证器强度:AI 智能体无人值守自我改进的两个量化前提

    研究提出了可恢复性与验证器强度两个量化指标,用于判断 AI 智能体能否安全进行无人值守的自我改进闭环。在 $\tau^2$-bench 等测试中,平台 LLM 评审在 37 种设置中有 9 种给出完全相同分数且未报错,且不良变更在部署期间会使 17% 任务的结果发生不可逆改变。平台据此允许提示词、工具与技能编辑无人值守运行,权重更新则仍须人工审批。

  14. arXiv cs.AI41

    Ask to Distill:面向同策略知识蒸馏的数据合成框架

    研究人员提出 Ask-to-Distill 框架,无需参考答案或正确性奖励,通过冻结的学生与教师模型计算分布代理奖励,学习合成用于同策略知识蒸馏(OPD)的高价值问题。该方法在数学推理、代码生成和智能体任务中提升了平均表现与教师差距恢复率,匹配或超越了真实题库的 OPD 效果,相关代码、数据和模型已公开。

  15. arXiv cs.AI50

    长周期终端智能体 Harness 自进化框架 RiseHarness

    研究人员提出 RiseHarness 框架,在模型权重固定的前提下迭代优化 Agent 交互支架,解决长周期终端智能体在多次运行中表现不稳定的可靠性问题。该框架聚焦在同配置下既有成功又有失败的任务,将成功轨迹作为参照并结合运行时监控来排查命令执行与上下文管理中的共性缺陷。候选改进方案经过行为检查和重复评估后进入下一轮迭代,多模型测试验证了其在未见基准上的迁移效果与成功率提升。

  16. arXiv cs.AI37

    KPHarness:面向长周期游戏线索框架的知识与探测协同演化框架

    研究人员提出了 KPHarness,通过知识与探测协同演化来适配冻结视觉-语言-动作模型的外部执行框架。该框架将快速策略执行与慢速研究循环解耦,基于沙盒对比评估生成框架修订,并将验证后的恢复策略跨任务复用。在涵盖挖矿、战斗和合成的 Minecraft 任务及未见任务测试中,其任务覆盖率与完成度均优于固定框架及仅靠知识演化的基线。

  17. arXiv cs.AI62

    LLM 智能体记忆过多引发错误复现,新研究提出 Anti-Persistence 机制

    研究指出 LLM 智能体若持久化存储抽象规则会导致错误不断循环复现,为此提出仅保留原始轨迹并在按需合成指引后即弃的 Anti-Persistence 架构。该机制通过自适应选择器根据过往结果决定是否重构指引,并在执行后销毁以阻断错误沉淀。跨基准与多款主干模型的评测显示,该方案取得了更高的测试成功率与最低的平均 LLM 调用成本。

    推荐理由:针对智能体记忆中错误抽象不断自我固化的弊端,提出用后即弃的按需重构架构,对设计自改进智能体有直接启发。

  18. arXiv cs.AI28

    用于法律合规评估的 LLM 智能体 ComplianceAgent:架构、记忆与在加拿大及魁北克语境下的评测

    研究人员提出了多智能体框架 COMPASS 的法律合规子智能体 ComplianceAgent,利用 LLM 根据固定量规对文本进行合规打分并基于参考法律语料库做出判断。当得分达到或低于临界阈值时,该智能体会触发自愈重写、合规标签、可解释性报告以及转交人工审核的纠错链。在包含加拿大联邦、魁北克省及三河市等 13 部法律文书和 15 篇标注文本的测试中,该智能体成功区分了所有合规与非合规文本。

  19. arXiv cs.AI41

    建模真实科研轨迹:科研构思图视角

    研究人员提出科研进展图(RPG),通过带时间索引和推理标注的认知转换连接不同研究状态,用于表征真实且完整的研究轨迹。对比 35 个基于 LLM 的科研 Agent 发现,现有 Agent 均无法完整记录改变的状态、证据及背后的推理链条。RPG 推动 Agent 从生成静态科研想法转向预测下一研究状态,并将构思过程作为完整轨迹进行评估和训练。

  20. arXiv cs.AI42

    用于数据湖分析编程 Agent 的无监督工具演化框架 TEAL

    研究人员提出无监督工具演化框架 TEAL,能在无标注数据下为数据湖分析编程 Agent 自动构建并优化工具库与使用技能。在 KramaBench 和 LakeQA 基准测试中,TEAL 在严格步数限制下全面提升了 4 种 Worker LLM 的表现,使 Sonnet-5 在 15 步限制下的得分分别提升 9.3 分与 21.7 分。此外,基于合成问题生成的工具库表现与真实问题相当。

  21. arXiv cs.AI36

    TURTLE:面向长程工具调用的自调优进化评测基准

    研究提出长程工具调用基准框架 TURTLE,通过提议器、求解器与反馈生成器三类 LLM 智能体协同进化任务,实现评测集的自调优与规模化生成。在 Gemma 4 31B-it 上的实验显示,该方法在 AppWorld、$\tau$-Bench 和 AutomationBench 中显著增加了任务多样性,使 AppWorld 高难度任务占比提升 165%,并激发了更广泛的失效模式。

  22. arXiv cs.AI34

    安全多智能体强化学习(SMARL)的漏洞分析

    针对安全多智能体强化学习(SMARL),新研究提出了推理期观测攻击框架 MinMax Attack,在扰动受害智能体动作的同时考量良性智能体的协同抵抗。该研究推导了诱导安全成本的理论界限,刻画其与受害智能体预算及扰动预算的关系。基准实验表明,MinMax Attack 在保持任务奖励以降低可检测性的同时,诱导了显著更高的安全成本。

  23. arXiv cs.AI41

    TEX:通过基于执行的交叉验证实现测试时扩展的测试智能体

    研究人员提出基于执行驱动交叉验证的协作测试时扩展框架 TEX,用于提升语言模型在长程任务中的测试用例生成能力。该框架并行化智能体生成测试与补丁,通过交叉执行构建 K×K 反馈矩阵指导智能体优化方案。在 SWT-Bench Verified 上,TEX 取得 86.4% 的 SOTA 成绩,相比单智能体基线提升 9.0%,且随机选择输出达 84.4% 同样超越此前 84.0% 的 SOTA。

  24. arXiv cs.AI41

    Magnolia:面向计算化学的持久记忆 AI 智能体框架

    研究人员推出了面向计算化学的持久记忆 AI 智能体框架 Magnolia,依托 LLM 整合分子对接、分子动力学及量子化学等计算流程。该框架采用三层记忆系统,可将单次会话观察提炼为项目条目,并经人工验证提升为跨项目规则以指导后续工作。测试中 Magnolia 跟踪了 317 次运行并沉淀 116 个项目条目,在对接配置检查中取得 10/10 通过率,远高于无记忆运行的 1/10 至 4/10。

  25. arXiv cs.AI42

    PORA:学习何时为 LLM 智能体分配更长推理

    研究人员提出 PORA(配对结果引导推理分配)方法,让 LLM 智能体在多步任务中根据剩余预算动态决定每次操作采用短推理还是长推理。在 BFCL memory 基准上,该方法超出最强现有基线 17.4-32.9 个百分点。在代码和数学任务中,PORA 达到或超过了全程使用长推理的效果,同时分别减少了 50.6% 的 actor token 和 31.2% 的模型请求。

  26. arXiv cs.AI37

    PROVISO:基于溯源感知的动作选择机制以保障 LLM 智能体安全

    研究人员提出 PROVISO 控制器,在 LLM 智能体提出动作后且执行前决定最终提交的动作,以提升智能体安全性并平衡效用。它将可信观测、外部观测、提议动作及备选动作编码进带溯源类型的记忆中,通过角色特定查询进行关联,并提交校准值最高的动作。在 SkillsBench 和 ToolSafe 上,PROVISO 的 F1 分数分别比最强基线提升 13.84 和 7.07 分。

  27. arXiv cs.AI56

    面向临床病历的通用系统一决策模型 CS1

    研究人员推出面向临床病历的 4B 参数决策模型 CS1-4B,可在单次前向传播中快速回答多个定型临床问题并输出置信概率。该模型基于 360 万名患者的 1240 万组问答训练,在保留测试集的大多数任务中超过了参数量高达 27B 的开源模型,推理速度提升 6.4 倍。在与语言模型智能体协同筛选临床试验候选人时,该方案相比大语言模型全量阅读病历节省了 690 倍 token。

  28. arXiv cs.AI34

    M-Plan:基于记忆编排的 LLM 智能体综合规划框架

    研究人员提出即插即用的闭环多智能体框架 M-Plan,通过整合长短期记忆与全局-局部引导,提升 LLM 智能体长周期多轮任务的决策与推理能力。执行过程中智能体依托里程碑与局部提示构建短期记忆,任务结束后信息经优化重组再写入长期记忆库。在 ALFWorld、Webshop 及 PDDL 上的多模型实验表明,M-Plan 在准确率和效率上均优于基线方法。

  29. arXiv cs.AI35

    通过偏好优化训练 AI 智能体掌握德州扑克策略

    研究人员提出结合 KL 锚定均衡的策略偏好优化方法 SPOKE,用于提升紧凑型 AI 智能体在不完全信息扑克博弈中的策略水平。在 SmallThinker-4B-A0.6B 的三次测试中,SPOKE 在 Kuhn 和 Leduc 环境中取得最低的平均可被剥削度 0.213 与 1.081,并在六人桌达成最高的 top-1 一致性 0.775。

  30. arXiv cs.AI59

    多智能体协作能否减少临床任务中的模型幻觉?

    最新论文研究了多智能体协作在临床任务中能否减少模型幻觉,发现协作虽能提升任务性能,但通常不会降低推理过程中的幻觉。研究评估了单模型基线及三种多智能体拓扑在 4 个模型和 3 项任务上的表现,在 12 项显著差异中幻觉反增的情况占了 8 项,且拓扑结构并无明显优劣之分。结果表明幻觉的变化方向完全取决于底层模型自身能力,多智能体协作仅重新分配了既有能力,无法凭空弥补模型缺陷。