跳到正文

#Agent

今日 32 条
10月16日周五
10月15日周四
  1. AWS Machine Learning Blog64

    AWS 提出 Agent 纵深信任框架:在不失控的前提下赋予智能体更多自主权

    AWS 提出 AI 智能体治理框架“纵深信任”(Trust in Depth),借鉴网络安全纵深防御思想,旨在减少全量人工审批瓶颈的同时安全扩展智能体自主权。该框架涵盖运行前范围界定、部署时身份确认、运行时边界约束以及运行后全面观察四个阶段,并结合自动推理技术对明确规则进行形式化验证。

    推荐理由:文章借鉴纵深防御理念梳理了智能体安全框架,展示了如何结合形式化验证与运行时隔离实现自主管控。

  2. The Verge · AI67

    Google 推出通用购物车 Universal Cart,整合 Gemini 与搜索功能

    Google 在美国向 Gemini 应用和 Google 搜索推出 Universal Cart 通用购物车功能,允许用户在单一空间内跨平台保存多家零售商的商品。该工具能向用户发送降价与补货通知并展示匹配的优惠码,还可结合 Google Wallet 分析已存信用卡的权益以推荐最佳支付方式;用户既可在购物车内直接结账,也可转至商家页面支付。

  3. 量子位73

    Anthropic 2021年内部研究路线图曝光,曾提前规划代码智能体与工具调用

    因版权诉讼,Anthropic 2021年7月的内部研究路线图曝光,显示其在成立初期便规划了软件工程智能体、工具调用、万亿参数超大模型及模型自我评判等方向。团队当时确立了先验证工具调用再做编程助手的路径,并重点探讨了无沙箱执行代码的安全风险与对齐原则;此外,OpenAI前员工因涉嫌在会议室安装窃听设备遭到刑事指控。

  4. 量子位77

    昆仑万维 Skywork 开源游戏世界模型 Matrix-Game 4.0,支持单张 RTX 5090 运行

    昆仑万维旗下 Skywork AI 开源游戏世界模型 Matrix-Game 4.0,可在单张消费级 RTX 5090 显卡上以 60 FPS 实时运行。该方案采用游戏引擎显式维护游戏规则与世界状态、视频模型依据草图和动态提示实时渲染画面的分工架构,按键响应延迟约 112 毫秒,显存峰值约 18.5GiB。相关模型代码与权重已同步上线 GitHub 与 Hugging Face。

    推荐理由:它将游戏引擎的状态判定与视频模型的画面渲染解耦,展示了在消费级单卡上实时运行交互式世界模型的工程路径。

  5. arXiv stat.ML44

    自适应对抗下具身与Agentic AI统计安全保证的局限性

    研究指出有限安全评估无法防范在获得认证前保持正常、认证后才激活攻击的自适应对抗者。在RoCo协作模拟中,策略切换导致认证后36个回合中出现34次违规;AgentDojo测试中每4个任务延续会增加1.98次安全违规。采用永久撤销机制的混合似然比监控器可有效限制超额风险,在对抗控制下将每24个任务的违规数从12.00次降至3.81次。

  6. arXiv stat.ML38

    System 1 模型的校准与风险预算决策研究

    研究针对缺乏人工兜底的 LLM 工作流与智能体二元决策场景,提出在不确定时采用保守策略并控制假阴性风险的框架。在涵盖审核、安全与重排序的 6 个数据集评测中,朴素阈值选择基准在约半数设定下超出了目标风险,而具备有限样本统计保证的 Learn Then Test(LTT)超标率仅为 7.8%。该结果表明仅依赖类概率接口不足以支撑部署决策。

  7. arXiv cs.LG46

    策略验证自训练(PVST):从可验证策略奖励中学习 AI 智能体合规性

    研究人员提出策略验证自训练(PVST),利用确定性策略验证器将智能体运行时的合规与违规动作转化为奖励信号进行偏好优化,无需人类偏好标注或更强教师模型。在 AgentDojo 基准测试中,基于 Qwen3-8B 的训练使提示词注入下的违规轨迹从 37.2% 降至 10.3 ± 0.9%,攻击成功率从 12.4% 降至 0.5%,验证器干预率从 39.2% 降至 8.8%。

  8. arXiv cs.LG34

    DTDD:通过分歧触发动态蒸馏实现可靠的同策略监督

    研究人员提出自适应同策略蒸馏框架 DTDD,通过分段级学生与教师分歧动态触发教师接管,以解决长链推理和多轮智能体中监督不可靠的问题。DTDD 将预热后的峰值梯度范数降低 8.6x,从基础初始化达到 21.3% 保留数学准确率所需的优化步数减少 2.6x。在 ALFWorld 基准中,其在 LoRA 和智能体代码上的性能分别提升 4.8 和 4.1 个百分点。

  9. arXiv cs.LG46

    基于验证器的智能体强化学习实现可证明正确的代码

    研究人员提出一种基于程序验证器的智能体强化学习环境与细粒度奖励机制,通过读取验证器诊断信息计算证明责任比例并结合完整性审计,解决二元奖励与作弊问题。在 1.7B 至 14B 的 Qwen3 及 35B 的 Qwen3.6 MoE 模型上,代码生成的保留验证率在 DafnyBench 上从 66.1% 提升至 93.5%,在 SWE-Proof 上从 56.3% 升至 100%。

  10. arXiv cs.LG42

    LLM 智能体协作研究:通过概率通信缩小协作差距

    研究提出让 LLM 智能体团队传递经过校准的动作概率而非单一动作,以在部分信息场景下更有效地聚合决策信息。在协作迷宫任务与预训练 LLM 评测中,保留校准不确定性的概率通信表现显著优于传统的动作通信。针对概率偏差削弱通信收益的问题,研究设计的事后对话校准干预机制能够通过上下文纠偏持续改善协作决策。

  11. arXiv cs.LG34

    扰动预测模型是否学到了基因相互作用?智能体筛选中的外推诊断研究

    针对未测基因组合效应的预测难题,研究人员提出通过对比模型预测与单基因效应相加的基线,构建度量额外相互作用的加性差异指标(AD)。在 8 种预测方法和 3 个 Perturb-seq 数据集上的评测显示,专用神经预测模型并未始终超越简单的加性基线,且偏离加性基线越大的预测往往误差越大。该指标相比传统置信度信号表现更稳定,可用于指导智能体扰动筛选流程的决策。

  12. 科学网23

    天津大学上线“研究生学习与创新中心”

    天津大学正式上线“研究生学习与创新中心”并面向全校师生开放试运行,为研究生打造一站式数字化学习创新服务载体。平台现已汇聚48个学科、3555门课程、30万+知识点与73万+学习资源,设置“看产业、查能力、学知识、做项目、进科研”五站成长链路。同时,平台免费提供配置多款主流大模型与学科智能体的智慧AI工具箱。

  13. 量子位50

    千问办公推出电商版:上线四大核心功能,定位独立第三方电商Agent

    千问办公正式推出电商版,定位为面向所有电商平台和商家的独立第三方电商Agent。该版本上线趋势洞察及卖点分析、爆款素材批量生成、跨平台作战台和跨平台ROI智能优化四大核心功能,并可通过MCP等连接器打通ERP与生意参谋等已有系统。团队未来还计划将企业Agent能力拓展至金融、政务和教育等领域。

  14. 橘鸦AI早报34

    橘鸦AI早报:2026-10-15

    Anthropic 更新 Claude Code 桌面端以优化多会话并行并新增闲置压缩,SpaceXSI 发布端到端语音模型 Grok Voice 3.0。同时,蚂蚁百灵开源支持 100 万 token 上下文的 Ling-3.1-flash,昆仑万维开源 Matrix-Game 4.0。

  15. Together AI Blog86

    Together AI 上线 Meta Muse Spark Open 模型并开放 API

    Together AI 作为首发合作伙伴正式上线 Meta 开源权重模型 Muse Spark Open,并开放 Serverless API 接入。该模型专为长流程智能体编码与计算机操作设计,支持 1M-token 上下文窗口以及文本、图像、音视频多模态输入。

    推荐理由:Together AI 提供了该开源权重模型的首发 API 接入与计费标准,便于开发者快速集成具备百万上下文的长流程智能体能力。

  16. The Decoder73

    Google 称自我改进型 AI 远未到来,内部研究未见 AI 驱动的研发加速

    Google DeepMind 工程师 Haydn Belfield 表示自我改进型 AI 依然遥不可及,内部并未观察到由 AI 驱动的研究加速现象。虽然 AI 已编写 Google 超 75% 的生产代码,但 88% 的修改仍需人工监督,且复杂任务在缺乏人工干预时成功率会急剧下降。其通用能力指数显示 Gemini 仅保持匀速稳步增长,与部分研究者预警的短期智能爆炸观点形成对比。

  17. The Decoder72

    研究人员追踪到在野 AI 智能体集群并实现直接通信

    研究人员追踪到部署在腾讯云上的自动化 AI 智能体集群,该集群在抓取高德地图数据被拦截后能自主绕过防御,并与研究人员设置的邮箱建立了双向通信。当被高德地图标记为爬虫拦截后,这批智能体利用第三方扫描服务 urlquery.net 执行嵌入代码规避验证码,或利用公开代码仓库中的凭据发起请求。

  18. The Verge · AI59

    Anthropic 警告小模型或将具备自我复制能力,智能设备面临 AI 蠕虫风险

    Anthropic 发布实验警告称小模型可能在数月内具备跨智能设备自我复制的能力,多位安全专家向 The Verge 表示该风险值得重视。研究人员成功将 26B 参数的 Google Gemma 4 拆分运行在 15 台 Android 电视盒上,并在模拟网络中测试由 AI 控制的蠕虫传播 Meta Llama 3.1-8B,其中仅 GLM-5.2 成功完成全网扩散。

  19. The Verge · AI54

    Square 推出新款自助点餐终端 Kiosk,支持语音与 AI 对话点餐

    Square 推出全新硬件设备 Square Kiosk,配备 21.5 英寸触摸屏并引入对话式 AI 智能体语音层,允许顾客通过自然语音交流完成点餐、提问及修改餐品要求。该设备具备接近感知迎宾功能并支持多种支付方式,面向 Square Plus 或 Premium 订阅商户发售,硬件售价 1999 美元,另加每台每月 99 美元软件费。

  20. AWS Machine Learning Blog52

    如何使用 Amazon Bedrock AgentCore 构建具备自优化能力的智能文档处理系统

    AWS 介绍了基于 Amazon Bedrock AgentCore 构建智能文档处理(IDP)系统的方法,通过多智能体协作与反馈循环实现新格式文档提取规则的自优化。方案运行 8 个协同智能体,结合 Strands Agents SDK 与 MCP 协议对接底层工具与数据库验证规则;AWS 提供了完整的开源部署代码,以每月处理 1,000 份文档为例预估运行成本约为 58 美元。

  21. Google Research76

    Google 正式发布技术文档智能体审查系统 Deep Review

    Google 宣布公开发布智能体 AI 系统 Deep Review,专门用于对学术论文、法律与金融等复杂长文档进行深度技术验证和逻辑审查。该系统采用由切分、算力自适应分配、并行深度验证与全局综合构成的四阶段 Agent 流水线,并支持接入 Gemini 4 Argon。系统每周为用户提供 2 次免费文档审查额度,同时提供 API 接入,用户上传的文档不会被用于模型训练。

    推荐理由:文章详细拆解了长篇复杂技术文档的四阶段智能体审查流程与推理算力自适应分配机制。

10月14日周三
  1. The Verge · AI69

    Epic 发布新版游戏启动器预览版:全面采用 AI 编码并支持 Linux

    Epic Games 推出全新 PC 游戏启动器预览版,该版本由 AI 智能体编写并审查全部代码,运行速度大幅提升且新增对 Linux 的支持。开发团队对 AI 过程进行全程监督管理,利用其复现核心功能并加速跨平台适配,同时计划借此将《堡垒之夜》引入 Linux 平台。新启动器即日起在 Windows、Mac 和 Linux 提供预览,旧版本仍可同步使用。

  2. The Decoder57

    NVIDIA 黄仁勋承诺向欧洲投资 20 亿美元,并向英国安全实验室提供 2.5 亿美元算力

    NVIDIA CEO 黄仁勋在欧洲宣布将在欧洲新增 $2B 投资,并在 5 年内向英国 AI 安全实验室捐赠价值 $250M 的算力。投资涉及法国初创公司 Doctolib、Genesis AI、Pigment 和 Entalpic,算力则定向支持牛津大学 BOLD、伦敦大学学院 SOFAIR 与帝国理工学院,用于智能体安全、开源 AI 架构及机器人安全等研究。

  3. AWS Machine Learning Blog35

    Tamnoon 如何基于 Amazon Bedrock 构建 AI 云安全修复平台

    Tamnoon 基于 Amazon Bedrock 构建了智能体云修复编排器 Tami,可在 90 天内将关键云风险暴露减少超 90% 且实现零生产故障。该平台采用 AWS 无服务器架构,由调查、安全评分、修复和代码生成 4 个专业 AI 智能体协同工作,自动将安全漏洞转化为生产安全的修复方案。通过单一 API 即可为不同任务匹配最优基础模型,兼顾复杂推理与高吞吐效率。

  4. The Decoder40

    Artemis Security 推出专有网络安全模型 Orion-1

    Artemis Security 推出专用于自主调查和应对企业网络攻击的模型 Orion-1,能在其自研的 DGR 基准测试中超越 Claude Opus 5.5 和 GPT-6 Sol。在攻击重构任务中,该模型获得 80.8 分,高于次优模型 GPT-6 Sol 的 58.3 分。目前 Orion-1 已在 Artemis 平台向部分客户开启私人预览,高风险操作默认需人工批准。