跳到正文

#Agent

今日 12 条
10月16日周五
  1. arXiv cs.AI45

    FDE-Bench:评测未明确真实业务需求端到端交付的全新基准

    研究人员推出 FDE-Bench,这是首个基于真实客户项目构建的基准,用于评估 AI 智能体在需要交互式需求澄清与迭代优化下的端到端交付能力。该基准包含涵盖组合优化与机器学习的 49 个案例,由智能体向模拟客户澄清需求并交由特定评估器验收。在 18 种智能体配置测试中,最高平均交付得分仅为 0.5510(FDE 参考值为 1.0),最高交付成功率仅有 6.12%。

  2. arXiv cs.AI33

    ScienceBuddy-PV:面向泛血管介入研究的验证器治理递归改进协议

    研究者提出了面向泛血管介入研究的协议 ScienceBuddy-PV,通过结构化证据账本、器械-血管本体与弃权契约等机制规范递归流程。在锁定的 ARCADE 测试集上,基线卷积模型取得 0.475 的语法 Dice 与 0.231 的狭窄 Dice,启发式门控接收了 76.7% 的狭窄帧输出。该研究仅审计了固定组件且未实际执行外环递归改进,旨在使支持与弃权可衡量。

  3. arXiv cs.AI53

    Reels-RSI:面向代码渲染解说视频的程序级自我改进框架

    Reels-RSI 是一个面向代码渲染解说视频的开源导演框架,将视频生成定义为可测试与可审计的代码程序,并在程序级别而非模型权重或提示词上实现自我改进。该系统将修订经验编译为附带单元测试的规则,能对历史与当前生成的帧代码进行回溯审查和防护。实验表明该机制有效拦截了潜在生成缺陷并缩短了修改循环,相关代码、规则库与数据集均已公开。

  4. arXiv cs.AI57

    基于便携技能的简易 Agentic RAG:以客户支持为案例

    论文提出一种基于便携技能的轻量级 Agentic RAG 方案,通过自然语言指令、轻量工具及大模型生成的类维基导航索引,替代复杂的文档切块和重排流水线。该方案仅需 1 到 2 个工作日即可在 Claude Code 等框架中实现,在客户支持流程生成中达到 99.2% 的流程等价度与 83.3% 的证据充分性。其单次推理耗时约 90 秒,主要适用于语料成熟、容忍延迟且有人工审核的场景。

  5. arXiv cs.AI34

    ANASSA:空间智能体 AI 从高层框架到低层架构的演进

    研究人员通过设计科学研究方法将空间智能体 AI 编排框架 ANASSA 从高层架构职责细化为面向实现的低层架构。该设计将高层职责转化为包含 47 个逻辑角色、版本化任务图、强类型契约、显式运行时状态与空间验证机制等可执行架构结构。该架构在不绑定特定 AI 模型、地理空间平台或部署环境的前提下,实现了受治理空间智能体工作流的可检查、可重构与可测试性。

  6. arXiv cs.AI39

    ACED-Bench:评估 LLM 智能体如何获取与应用因果证据

    研究者推出神经符号基准 ACED-Bench,用于评估 LLM 智能体主动获取因果证据并做出决策的能力。其核心榜单 ACED-Core 包含 180 项因果推断与决策任务,辅以含 150 题的资格检查 ACED-Qual,评测了 7 款当代与 2 款早期 LLM。结果显示,智能体常出现测试错误干预、遗失相关证据以及在证据充足后仍无法及时停止等失败问题。

  7. arXiv cs.AI43

    SLM 应该占据主导吗?云端生成代码与端侧小模型解释器混合架构研究

    研究者提出一种兼顾隐私与性能的混合架构,由云端大模型生成智能体程序,在设备端执行时通过普通函数调用将涉及用户数据的局部理解任务交给本地 SLM 处理。在 AppWorld 基准测试的所有 6 种骨干模型与测试集组合中,该方法将纯代码智能体的成功率最高提升了 14.9pp。该方案在确保用户私有数据完全保留在设备端的同时,大幅弥补了与全云端 ReAct 循环之间的性能差距。

  8. arXiv cs.AI41

    可视化 AI 智能体价值函数中的世界模型

    研究人员通过反事实干预方法探究了无模型强化学习算法是否会在其价值函数中形成环境的世界模型。在 Crafter 环境下的 Proximal Policy Optimization 智能体实验表明,尽管仅以优化奖励为目标进行训练,其价值函数依然学会了钻石收集规则、水和食物对健康的影响以及物品清单启发式规则等概念。该研究同时探讨了相关可视化对 AI 安全的启示及当前强化学习智能体的局限。

  9. arXiv cs.AI46

    基于开源权重模型的无限制 CTI-REALM 基准评测

    研究人员在网络安全威胁检测基准 CTI-REALM 上评估了 19 个开源权重模型和 7 个闭源模型,发现在放开消息轮数限制后,开源权重模型能以不足十分之一的成本匹敌最强闭源模型,甚至取得最高奖励得分。研究指出原基准的消息限制掩盖了真实表现,价格与模型能力并不完全挂钩。此外,针对工作流各阶段的细分评估显示不同模型在不同阶段各具优势,宜按阶段进行路由调用。

  10. arXiv cs.AI52

    论文揭示数据科学智能体中的静默失败

    研究人员针对数据科学智能体展开系统评估,指出仅依赖下游预测指标和代码正确性会掩盖数据泄露与不当验证等方法论缺陷。通过跨 220 个数据科学任务的分析与测试套件验证,研究发现绝大多数智能体方案均存在至少一种失败模式,且数据泄露与高预测表现正相关。对比 Kaggle 竞赛专家方案,现有智能体在解决问题的创造力与领域知识上仍存在明显不足。

  11. Apple ML Research48

    先规划还是先检索?大模型工具发现架构的规模化研究

    研究对比了大模型工具发现架构中的“先检索后规划”(RtP)与“先规划后检索”(PtR)两种范式。在涵盖 46,984 个 API 端点的 ToolBench 评测中,RtP 在单工具查询上表现更好,而通过先生成抽象工具桩进行检索的 PtR 在多工具查询上全面胜出,这一交叉效应在 Gemini 2.5 Flash 和 gpt-oss-120b 等模型上均一致存在。

  12. Apple ML Research43

    基于选择的结构化推理(SSR):迈向高效多模态搜索智能体

    研究人员提出基于选择的结构化推理(SSR)框架,将多模态智能体的开放式推理重构为从预设可复用的候选推理中进行选择。在 2B 与 4B 模型及 7 个多模态搜索评测基准上的测试显示,该方法在保持任务成功率的同时,将每轮推理延迟降低超过 90%,并将每个问题的模型总推理延迟降低 28–54%。

  13. The Verge · AI69

    Meta 个人智能体 Muse 引发隐私争议:用户授权或连带泄露好友与联系人数据

    Meta 推出的个人 AI 智能体 Muse 鼓励用户授权通讯录、聊天记录与银行账户等敏感信息,引发了未经连带联系人知情同意便抓取第三方隐私的担忧。安全专家与隐私学者指出,该智能体通过界面暗黑模式诱导用户过度共享数据,即使未安装该应用的人,其私密对话和住址也可能被好友的智能体读取并构建人际画像。

  14. NVIDIA Blog61

    NVIDIA 宣布 RTX Spark 正式发布并举办全球庆典

    NVIDIA 宣布推出专为创作者、游戏玩家与 AI 智能体打造的 Windows PC 平台 RTX Spark,并于全球多地举办线下发布体验活动。该平台联合微软等合作伙伴开发,主打本地 AI 工作流加速与兼容性优化,并在旧金山、柏林、台北、北京和首尔等地设立现场上手展示。线上同时开启 #ShareYourSpark 互动活动,提供黄仁勋签名的华硕 ProArt P14 笔记本作为抽奖奖品。

    推荐理由:提供了端侧智能体 PC 平台的发布与各方实测评价,读者可据此了解本地 AI 工作流在个人计算设备上的落地情况。

10月15日周四
  1. AWS Machine Learning Blog64

    AWS 提出 Agent 纵深信任框架:在不失控的前提下赋予智能体更多自主权

    AWS 提出 AI 智能体治理框架“纵深信任”(Trust in Depth),借鉴网络安全纵深防御思想,旨在减少全量人工审批瓶颈的同时安全扩展智能体自主权。该框架涵盖运行前范围界定、部署时身份确认、运行时边界约束以及运行后全面观察四个阶段,并结合自动推理技术对明确规则进行形式化验证。

    推荐理由:文章借鉴纵深防御理念梳理了智能体安全框架,展示了如何结合形式化验证与运行时隔离实现自主管控。

  2. The Verge · AI67

    Google 推出通用购物车 Universal Cart,整合 Gemini 与搜索功能

    Google 在美国向 Gemini 应用和 Google 搜索推出 Universal Cart 通用购物车功能,允许用户在单一空间内跨平台保存多家零售商的商品。该工具能向用户发送降价与补货通知并展示匹配的优惠码,还可结合 Google Wallet 分析已存信用卡的权益以推荐最佳支付方式;用户既可在购物车内直接结账,也可转至商家页面支付。

  3. 量子位73

    Anthropic 2021年内部研究路线图曝光,曾提前规划代码智能体与工具调用

    因版权诉讼,Anthropic 2021年7月的内部研究路线图曝光,显示其在成立初期便规划了软件工程智能体、工具调用、万亿参数超大模型及模型自我评判等方向。团队当时确立了先验证工具调用再做编程助手的路径,并重点探讨了无沙箱执行代码的安全风险与对齐原则;此外,OpenAI前员工因涉嫌在会议室安装窃听设备遭到刑事指控。

  4. 量子位77

    昆仑万维 Skywork 开源游戏世界模型 Matrix-Game 4.0,支持单张 RTX 5090 运行

    昆仑万维旗下 Skywork AI 开源游戏世界模型 Matrix-Game 4.0,可在单张消费级 RTX 5090 显卡上以 60 FPS 实时运行。该方案采用游戏引擎显式维护游戏规则与世界状态、视频模型依据草图和动态提示实时渲染画面的分工架构,按键响应延迟约 112 毫秒,显存峰值约 18.5GiB。相关模型代码与权重已同步上线 GitHub 与 Hugging Face。

    推荐理由:它将游戏引擎的状态判定与视频模型的画面渲染解耦,展示了在消费级单卡上实时运行交互式世界模型的工程路径。

  5. arXiv stat.ML44

    自适应对抗下具身与Agentic AI统计安全保证的局限性

    研究指出有限安全评估无法防范在获得认证前保持正常、认证后才激活攻击的自适应对抗者。在RoCo协作模拟中,策略切换导致认证后36个回合中出现34次违规;AgentDojo测试中每4个任务延续会增加1.98次安全违规。采用永久撤销机制的混合似然比监控器可有效限制超额风险,在对抗控制下将每24个任务的违规数从12.00次降至3.81次。

  6. arXiv stat.ML38

    System 1 模型的校准与风险预算决策研究

    研究针对缺乏人工兜底的 LLM 工作流与智能体二元决策场景,提出在不确定时采用保守策略并控制假阴性风险的框架。在涵盖审核、安全与重排序的 6 个数据集评测中,朴素阈值选择基准在约半数设定下超出了目标风险,而具备有限样本统计保证的 Learn Then Test(LTT)超标率仅为 7.8%。该结果表明仅依赖类概率接口不足以支撑部署决策。

  7. arXiv cs.LG46

    策略验证自训练(PVST):从可验证策略奖励中学习 AI 智能体合规性

    研究人员提出策略验证自训练(PVST),利用确定性策略验证器将智能体运行时的合规与违规动作转化为奖励信号进行偏好优化,无需人类偏好标注或更强教师模型。在 AgentDojo 基准测试中,基于 Qwen3-8B 的训练使提示词注入下的违规轨迹从 37.2% 降至 10.3 ± 0.9%,攻击成功率从 12.4% 降至 0.5%,验证器干预率从 39.2% 降至 8.8%。

  8. arXiv cs.LG34

    DTDD:通过分歧触发动态蒸馏实现可靠的同策略监督

    研究人员提出自适应同策略蒸馏框架 DTDD,通过分段级学生与教师分歧动态触发教师接管,以解决长链推理和多轮智能体中监督不可靠的问题。DTDD 将预热后的峰值梯度范数降低 8.6x,从基础初始化达到 21.3% 保留数学准确率所需的优化步数减少 2.6x。在 ALFWorld 基准中,其在 LoRA 和智能体代码上的性能分别提升 4.8 和 4.1 个百分点。

  9. arXiv cs.LG46

    基于验证器的智能体强化学习实现可证明正确的代码

    研究人员提出一种基于程序验证器的智能体强化学习环境与细粒度奖励机制,通过读取验证器诊断信息计算证明责任比例并结合完整性审计,解决二元奖励与作弊问题。在 1.7B 至 14B 的 Qwen3 及 35B 的 Qwen3.6 MoE 模型上,代码生成的保留验证率在 DafnyBench 上从 66.1% 提升至 93.5%,在 SWE-Proof 上从 56.3% 升至 100%。

  10. arXiv cs.LG42

    LLM 智能体协作研究:通过概率通信缩小协作差距

    研究提出让 LLM 智能体团队传递经过校准的动作概率而非单一动作,以在部分信息场景下更有效地聚合决策信息。在协作迷宫任务与预训练 LLM 评测中,保留校准不确定性的概率通信表现显著优于传统的动作通信。针对概率偏差削弱通信收益的问题,研究设计的事后对话校准干预机制能够通过上下文纠偏持续改善协作决策。

  11. arXiv cs.LG34

    扰动预测模型是否学到了基因相互作用?智能体筛选中的外推诊断研究

    针对未测基因组合效应的预测难题,研究人员提出通过对比模型预测与单基因效应相加的基线,构建度量额外相互作用的加性差异指标(AD)。在 8 种预测方法和 3 个 Perturb-seq 数据集上的评测显示,专用神经预测模型并未始终超越简单的加性基线,且偏离加性基线越大的预测往往误差越大。该指标相比传统置信度信号表现更稳定,可用于指导智能体扰动筛选流程的决策。

  12. 科学网23

    天津大学上线“研究生学习与创新中心”

    天津大学正式上线“研究生学习与创新中心”并面向全校师生开放试运行,为研究生打造一站式数字化学习创新服务载体。平台现已汇聚48个学科、3555门课程、30万+知识点与73万+学习资源,设置“看产业、查能力、学知识、做项目、进科研”五站成长链路。同时,平台免费提供配置多款主流大模型与学科智能体的智慧AI工具箱。

  13. 量子位50

    千问办公推出电商版:上线四大核心功能,定位独立第三方电商Agent

    千问办公正式推出电商版,定位为面向所有电商平台和商家的独立第三方电商Agent。该版本上线趋势洞察及卖点分析、爆款素材批量生成、跨平台作战台和跨平台ROI智能优化四大核心功能,并可通过MCP等连接器打通ERP与生意参谋等已有系统。团队未来还计划将企业Agent能力拓展至金融、政务和教育等领域。