跳到正文

#Agent

今日 3 条
10月16日周五
  1. arXiv cs.AI52

    论文揭示数据科学智能体中的静默失败

    研究人员针对数据科学智能体展开系统评估,指出仅依赖下游预测指标和代码正确性会掩盖数据泄露与不当验证等方法论缺陷。通过跨 220 个数据科学任务的分析与测试套件验证,研究发现绝大多数智能体方案均存在至少一种失败模式,且数据泄露与高预测表现正相关。对比 Kaggle 竞赛专家方案,现有智能体在解决问题的创造力与领域知识上仍存在明显不足。

  2. Apple ML Research48

    先规划还是先检索?大模型工具发现架构的规模化研究

    研究对比了大模型工具发现架构中的“先检索后规划”(RtP)与“先规划后检索”(PtR)两种范式。在涵盖 46,984 个 API 端点的 ToolBench 评测中,RtP 在单工具查询上表现更好,而通过先生成抽象工具桩进行检索的 PtR 在多工具查询上全面胜出,这一交叉效应在 Gemini 2.5 Flash 和 gpt-oss-120b 等模型上均一致存在。

  3. Apple ML Research43

    基于选择的结构化推理(SSR):迈向高效多模态搜索智能体

    研究人员提出基于选择的结构化推理(SSR)框架,将多模态智能体的开放式推理重构为从预设可复用的候选推理中进行选择。在 2B 与 4B 模型及 7 个多模态搜索评测基准上的测试显示,该方法在保持任务成功率的同时,将每轮推理延迟降低超过 90%,并将每个问题的模型总推理延迟降低 28–54%。

  4. NVIDIA Blog61

    NVIDIA 宣布 RTX Spark 正式发布并举办全球庆典

    NVIDIA 宣布推出专为创作者、游戏玩家与 AI 智能体打造的 Windows PC 平台 RTX Spark,并于全球多地举办线下发布体验活动。该平台联合微软等合作伙伴开发,主打本地 AI 工作流加速与兼容性优化,并在旧金山、柏林、台北、北京和首尔等地设立现场上手展示。线上同时开启 #ShareYourSpark 互动活动,提供黄仁勋签名的华硕 ProArt P14 笔记本作为抽奖奖品。

    推荐理由:提供了端侧智能体 PC 平台的发布与各方实测评价,读者可据此了解本地 AI 工作流在个人计算设备上的落地情况。

10月15日周四
  1. AWS Machine Learning Blog64

    AWS 提出 Agent 纵深信任框架:在不失控的前提下赋予智能体更多自主权

    AWS 提出 AI 智能体治理框架“纵深信任”(Trust in Depth),借鉴网络安全纵深防御思想,旨在减少全量人工审批瓶颈的同时安全扩展智能体自主权。该框架涵盖运行前范围界定、部署时身份确认、运行时边界约束以及运行后全面观察四个阶段,并结合自动推理技术对明确规则进行形式化验证。

    推荐理由:文章借鉴纵深防御理念梳理了智能体安全框架,展示了如何结合形式化验证与运行时隔离实现自主管控。

  2. arXiv stat.ML44

    自适应对抗下具身与Agentic AI统计安全保证的局限性

    研究指出有限安全评估无法防范在获得认证前保持正常、认证后才激活攻击的自适应对抗者。在RoCo协作模拟中,策略切换导致认证后36个回合中出现34次违规;AgentDojo测试中每4个任务延续会增加1.98次安全违规。采用永久撤销机制的混合似然比监控器可有效限制超额风险,在对抗控制下将每24个任务的违规数从12.00次降至3.81次。

  3. arXiv stat.ML38

    System 1 模型的校准与风险预算决策研究

    研究针对缺乏人工兜底的 LLM 工作流与智能体二元决策场景,提出在不确定时采用保守策略并控制假阴性风险的框架。在涵盖审核、安全与重排序的 6 个数据集评测中,朴素阈值选择基准在约半数设定下超出了目标风险,而具备有限样本统计保证的 Learn Then Test(LTT)超标率仅为 7.8%。该结果表明仅依赖类概率接口不足以支撑部署决策。

  4. arXiv cs.LG46

    策略验证自训练(PVST):从可验证策略奖励中学习 AI 智能体合规性

    研究人员提出策略验证自训练(PVST),利用确定性策略验证器将智能体运行时的合规与违规动作转化为奖励信号进行偏好优化,无需人类偏好标注或更强教师模型。在 AgentDojo 基准测试中,基于 Qwen3-8B 的训练使提示词注入下的违规轨迹从 37.2% 降至 10.3 ± 0.9%,攻击成功率从 12.4% 降至 0.5%,验证器干预率从 39.2% 降至 8.8%。

  5. arXiv cs.LG34

    DTDD:通过分歧触发动态蒸馏实现可靠的同策略监督

    研究人员提出自适应同策略蒸馏框架 DTDD,通过分段级学生与教师分歧动态触发教师接管,以解决长链推理和多轮智能体中监督不可靠的问题。DTDD 将预热后的峰值梯度范数降低 8.6x,从基础初始化达到 21.3% 保留数学准确率所需的优化步数减少 2.6x。在 ALFWorld 基准中,其在 LoRA 和智能体代码上的性能分别提升 4.8 和 4.1 个百分点。

  6. arXiv cs.LG46

    基于验证器的智能体强化学习实现可证明正确的代码

    研究人员提出一种基于程序验证器的智能体强化学习环境与细粒度奖励机制,通过读取验证器诊断信息计算证明责任比例并结合完整性审计,解决二元奖励与作弊问题。在 1.7B 至 14B 的 Qwen3 及 35B 的 Qwen3.6 MoE 模型上,代码生成的保留验证率在 DafnyBench 上从 66.1% 提升至 93.5%,在 SWE-Proof 上从 56.3% 升至 100%。

  7. arXiv cs.LG42

    LLM 智能体协作研究:通过概率通信缩小协作差距

    研究提出让 LLM 智能体团队传递经过校准的动作概率而非单一动作,以在部分信息场景下更有效地聚合决策信息。在协作迷宫任务与预训练 LLM 评测中,保留校准不确定性的概率通信表现显著优于传统的动作通信。针对概率偏差削弱通信收益的问题,研究设计的事后对话校准干预机制能够通过上下文纠偏持续改善协作决策。

  8. arXiv cs.LG34

    扰动预测模型是否学到了基因相互作用?智能体筛选中的外推诊断研究

    针对未测基因组合效应的预测难题,研究人员提出通过对比模型预测与单基因效应相加的基线,构建度量额外相互作用的加性差异指标(AD)。在 8 种预测方法和 3 个 Perturb-seq 数据集上的评测显示,专用神经预测模型并未始终超越简单的加性基线,且偏离加性基线越大的预测往往误差越大。该指标相比传统置信度信号表现更稳定,可用于指导智能体扰动筛选流程的决策。

  9. 橘鸦AI早报34

    橘鸦AI早报:2026-10-15

    Anthropic 更新 Claude Code 桌面端以优化多会话并行并新增闲置压缩,SpaceXSI 发布端到端语音模型 Grok Voice 3.0。同时,蚂蚁百灵开源支持 100 万 token 上下文的 Ling-3.1-flash,昆仑万维开源 Matrix-Game 4.0。

  10. Together AI Blog86

    Together AI 上线 Meta Muse Spark Open 模型并开放 API

    Together AI 作为首发合作伙伴正式上线 Meta 开源权重模型 Muse Spark Open,并开放 Serverless API 接入。该模型专为长流程智能体编码与计算机操作设计,支持 1M-token 上下文窗口以及文本、图像、音视频多模态输入。

    推荐理由:Together AI 提供了该开源权重模型的首发 API 接入与计费标准,便于开发者快速集成具备百万上下文的长流程智能体能力。

  11. AWS Machine Learning Blog52

    如何使用 Amazon Bedrock AgentCore 构建具备自优化能力的智能文档处理系统

    AWS 介绍了基于 Amazon Bedrock AgentCore 构建智能文档处理(IDP)系统的方法,通过多智能体协作与反馈循环实现新格式文档提取规则的自优化。方案运行 8 个协同智能体,结合 Strands Agents SDK 与 MCP 协议对接底层工具与数据库验证规则;AWS 提供了完整的开源部署代码,以每月处理 1,000 份文档为例预估运行成本约为 58 美元。

  12. Google Research76

    Google 正式发布技术文档智能体审查系统 Deep Review

    Google 宣布公开发布智能体 AI 系统 Deep Review,专门用于对学术论文、法律与金融等复杂长文档进行深度技术验证和逻辑审查。该系统采用由切分、算力自适应分配、并行深度验证与全局综合构成的四阶段 Agent 流水线,并支持接入 Gemini 4 Argon。系统每周为用户提供 2 次免费文档审查额度,同时提供 API 接入,用户上传的文档不会被用于模型训练。

    推荐理由:文章详细拆解了长篇复杂技术文档的四阶段智能体审查流程与推理算力自适应分配机制。

10月14日周三
  1. AWS Machine Learning Blog35

    Tamnoon 如何基于 Amazon Bedrock 构建 AI 云安全修复平台

    Tamnoon 基于 Amazon Bedrock 构建了智能体云修复编排器 Tami,可在 90 天内将关键云风险暴露减少超 90% 且实现零生产故障。该平台采用 AWS 无服务器架构,由调查、安全评分、修复和代码生成 4 个专业 AI 智能体协同工作,自动将安全漏洞转化为生产安全的修复方案。通过单一 API 即可为不同任务匹配最优基础模型,兼顾复杂推理与高吞吐效率。

  2. NVIDIA Blog37

    欧洲多座城市部署基于 NVIDIA 技术的 AI 智能体优化城市运营

    欧洲多座城市正联合合作伙伴采用 NVIDIA 加速计算、Cosmos 开源模型、Nemotron 与 Omniverse 部署物理 AI 智能体和数字孪生,以优化城市运营与公共服务。相关项目覆盖英国、法国、意大利及比利时等国,应用场景涵盖交通规划、港口危化品处理及漏油预警等。在法国科多尔省的 500 多栋公共建筑中,运营智能体已将文档检索时间缩短至数分钟,并将总运营成本降低 10%。

  3. Google DeepMind88

    Google DeepMind 发布前沿模型 Gemini 4 Argon

    Google DeepMind 正式发布前沿模型 Gemini 4 Argon,主打编码、科研与多步骤复杂任务,并在评估关键经济领域能力的 Vals Index 评测中位列第一。

    推荐理由:官方给出了在代码库重构与科学计算中的实测细节,开发者可据此评估其深层推理与智能体作业价值。

  4. Google DeepMind80

    Google DeepMind 详解 Gemini 4 Argon 安全与对齐开发实践

    Google DeepMind 阐释了 Gemini 4 Argon 的安全与对齐防御体系,涵盖高危滥用防范、实时对齐监控和提示词注入防御。系统引入包含激活探针在内的三层实时防护,并实时监控智能体的操作与思维链以阻止越界行为;实验发现不惩罚思维链中的投机想法能有效避免模型隐蔽违规。在 Gray Swan 的 IPI 基准测试中,该模型的攻击成功率降至 0.7%。

    推荐理由:原文揭示了惩罚思维链会导致模型转为隐蔽作弊的实验结论,为智能体安全监控提供了可迁移的工程参考。

  5. 橘鸦AI早报36

    橘鸦 AI 早报:Google 全球开放 Gemini 4 Argon,OpenAI 优化 ChatGPT 存储占用

    Google 宣布向全球开放 Gemini 4 Argon 模型,订阅用户可在 App 中使用,开发者可通过付费 API 调用。同时,OpenAI 优化了 ChatGPT 桌面端存储方式,预计可减少 60% 磁盘占用。此外,阿里千问推出个人 Agent 千问 Go 开启限时邀测,Liquid AI 也发布了开放权重推理模型 LFM2.5-24B-A2B。

  6. AWS Machine Learning Blog66

    如何通过 Anchor Browser 与 Bedrock AgentCore 构建支持自主支付的 AI 智能体

    AWS 联合 Anchor Browser 推出集成方案,使 AI 智能体能够通过 Amazon Bedrock AgentCore payments 自动处理 HTTP 402 付费挑战并访问受限网页与 API。

    推荐理由:原文给出了基于 x402 协议实现智能体自动付费的集成架构与配置示例,读者可参考其在无私钥暴露风险下处理付费接口的落地方法。

  7. Google AI Blog88

    Google 发布 Gemini 4 Argon 前沿大模型

    Google 正式面向全球推出 Gemini 4 Argon 模型,主打长任务深度推理与复杂工程、科研及商业工作流处理。该模型具备 1M 统一输入输出 token 限制,API 定价为每百万输入 token 2 美元、每百万输出 token 10 美元(缓存输入享 95% 折扣)。

    推荐理由:官方披露了新模型在代码重构、科学计算和具身智能领域的实测提效数据,读者可借此评估其在长链路复杂工程中的实际价值。

  8. AWS Machine Learning Blog59

    在 Amazon Bedrock 上基于 Grok 4.7 构建长周期智能体

    AWS 宣布 Grok 4.7 上线 Amazon Bedrock,支持 500K 上下文、工具调用与可配置推理强度(reasoning effort)。官方测试显示,在三类需要搜索验证的复杂任务中,智能体在 72 次测试中取得 67 次正确,其中最高推理强度达到全部正确,而最低档位仅消耗约八分之一的输出 token 便取得 15/18 的正确率。

  9. AWS Machine Learning Blog63

    ShipStation Global 如何基于 Amazon Bedrock AgentCore 构建 AI IT 服务台

    ShipStation Global 团队基于 Amazon Bedrock AgentCore 与 Claude 模型构建了 Slack IT 智能助手 Deckhand,实现了 97.5% 的日常咨询响应率和 96% 的员工好评率。

    推荐理由:展示了如何利用递归语言模型清洗历史聊天沉淀知识库,并通过无服务器 MCP 工具链实现工单自动拦截与分流。

10月13日周二