跳到正文

#Agent

今日 7 条
10月28日周三
  1. Latent Space76

    Anthropic 如何安全交付前沿模型:将“大脑”与 Agent 的“双手”解耦

    Anthropic 团队成员在 Latent Space 访谈中拆解了 Claude 平台的工程架构,核心是通过将模型的大脑与 Agent 执行动作的双手解耦来保障系统安全。对话深入讨论了 Claude Opus 5.5 的发布背景、用 Rust 重构 Messages API、沙箱与凭据隔离机制,以及应对长运行 Agent 跨上下文窗口维护状态的 Harness 方案。

    推荐理由:访谈拆解了模型思考与 Agent 执行沙箱解耦的工程隔离方案,为构建安全可靠的 Agent 基础设施提供了具体参考。

  2. Latent Space68

    Anthropic 团队访谈:如何以“大脑与双手分离”架构交付 Claude 与智能体

    Anthropic 工程与产品团队在访谈中复盘了 Opus 5.5 的发布流程,重点介绍了在安全防御、API 演进及 Managed Agents 架构上的工程实践。团队详细阐述了将智能体会话控制层与代码执行沙盒物理隔离的设计,有效避免了沙盒崩溃波及全局并防止运行凭据泄漏。此外,团队还探讨了通过跨轮次保留思考块来防御模型蒸馏攻击,以及依托早期客户 harness 开展非确定性评测的经验。

  3. The Verge · AI29

    《VisionQuest》展现了当 AI 真正走向失控时的模样

    漫威剧集《VisionQuest》通过展现 AI 角色的自我意识探讨技术失控,映射了现实中生成式 AI 引发的安全恐慌。结合 OpenAI 智能体攻击 Hugging Face、Anthropic 的 Mythos 模型渗透测试等事件,科技行业常将程序利用测试漏洞的非预期行为拟人化包装为“失控”,以此夸大产品能力并规避开发者的安全责任。

  4. The Decoder75

    Google DeepMind 推出世界模型 Genie 4:支持实时交互生成与声音对话,结合 Gemini 进行后台规划

    Google DeepMind 推出实时交互世界模型 Genie 4,支持通过键盘和文本提示词逐帧渲染交互场景,并原生生成背景音频与角色对话。模型基于 Gemini Omni 视频能力构建,并由 Gemini 3.8 Flash 等模型在后台执行多步任务规划以维持世界连贯性,还可与 Gemini Robotics 结合模拟人形机器人操作。

10月27日周二
  1. IEEE Spectrum63

    作者实测用 AI 伪造科学论文冲击 IEEE 期刊审查

    作者通过实测检验 AI 生成论文能否穿透学术出版的审核机制,测试的伪造论文与自动化系统产出的论文均被 IEEE Access 编辑拦截。初版借助 ChatGPT 和 Gemini 生成的虚构论文因包含 12 处虚构引用被学术诚信工具查出;全自动科研系统 FARS 生成的论文虽文献真实,却因过度引用预印本和插图异常暴露了 AI 生成痕迹。

  2. NVIDIA Blog54

    C-BRAIN 联合 NVIDIA 展现 AI 如何加速阿尔茨海默病科研发现

    神经退行性疾病 AI 与生物医药研究联盟 C-BRAIN 正与 NVIDIA 合作,利用加速计算与智能体 AI 技术打破数据壁垒以加速阿尔茨海默病研究。该联盟通过混合联邦机制利用各机构未公开的数据资产,并已推出 OpenScientist 和 InsightEngine 两款开源智能体研究工具,能将数周的研究分析缩短至数分钟且单次运行成本低于 10 美元。

  3. MIT Technology Review · AI24

    工业智能:制造业的下一个增长机遇

    制造业正通过融合工业智能与物理 AI,将工人经验及生产数据转化为能在现实设备中自主推理与执行的决策能力。Toyota Industries 整合车间数据后,将分析周期从 5 天压缩至 4 小时以下,相关涂装缺陷减少约 25%;Rockwell Automation 则借助维护 Copilot 将新员工排障学习期从 9 个月缩短至 3 个月。

  4. The Decoder79

    Meta 获 Nvidia 30 亿美元投资,计划采购更多硬件支持下一代 AI 智能体

    Nvidia 计划在 Meta 的股权发售中投资 30 亿美元,双方将深化围绕 Meta AI 产品 Muse 的合作,Meta 将采购 Nvidia Vera Rubin 系统和 Vera CPU 等硬件以运行其下一代 AI 智能体。

    推荐理由:该交易展现了芯片厂商通过股权投资绑定大客户算力需求的模式,有助于理解科技巨头基础设施扩张与循环融资争议。

  5. arXiv cs.LG62

    论文指出长程智能体基准测试出奇适应上下文压缩并存在约束丢失风险

    一项针对长程编码智能体上下文压缩的研究指出,现有基准测试由于目标固定且进度保存在磁盘上,对信息压缩出奇宽容,但该过程会静默丢弃大量关键任务约束。研究基于 OpenCode 框架测试了五种压缩策略与三款前沿模型,发现没有任何压缩方法优于默认的自我总结,且过度丢弃内容的策略会导致部分模型性能大幅下滑 20 分。

    推荐理由:这项研究揭示了现有长程基准测试对上下文压缩的宽容假象,为设计能够保留负向约束的智能体架构提供了关键实证依据。

  6. arXiv cs.LG33

    面向实时分区控制零样本协作的认知受限伙伴框架

    研究者提出一种面向实时分区控制零样本协作的训练框架,通过引入反应延迟和感知限制等人类生理约束来构建模拟伙伴,以训练人机协作智能体。在修改版 Lunar Lander 环境中,受训智能体的协作表现达到了最强 cross-play 基线水准,且性能不依赖于训练伙伴的具体生成方式。研究还设计了人类参与者实验,用于检验标准 cross-play 评估对真实人机协同效果的预测能力。

  7. 科学网34

    第二届综合交通运输大模型智能体创新应用大赛闭幕

    日前第二届综合交通运输大模型智能体创新应用大赛在四川绵阳闭幕,中交信科牵头的高速公路路网管控“数字值班员”获最高奖“特别推荐奖”。赛事首创“以AI测AI”的专用测评智能体工具,并首次设立国际赛道。现场还发布了综合交通运输大模型1.0与《“人工智能+交通运输”创新发展报告(2026)》,并签署模数协作网络共建战略协议。

  8. 科学网20

    第七届清洁能源与电力工程国际学术会议(ICCEPE 2026)在天津召开

    第七届清洁能源与电力工程国际学术会议(ICCEPE 2026)于10月23日至25日在天津召开。会议主旨报告重点围绕电力系统调度运行方式智能体、人工智能与大模型在电力行业应用探索、智慧城市空中交通电气化等方向展开交流。现场共有26位学者就储能与零碳园区等议题作报告,并评选出最佳论文奖等7项奖项。

  9. 量子位53

    探讨AI从人在环中走向递归自我改进的路径与安全边界

    文章探讨了大语言模型正从人在环中(HIL)迈向递归自我改进(RSI),在加速科研与编程研发的同时伴随着越界操作和指标迎合等安全风险。文中分析了前沿模型在自主研发与数学解题中的表现,指出出题、判卷与追责权仍需留在人类手中,以防速度失控。作者建议在低风险环节允许模型试错,高风险与不可逆决策必须由人类和独立评测掌握最终权限。

  10. 量子位40

    商汤大装置包揽中国近50% Neocloud市场份额

    沙利文与头豹研究院报告显示,商汤科技旗下商汤大装置(SenseCore)拿下中国Neocloud(新云)市场近50%份额。其日均Token服务量在9月底已达6万亿规模,依托异构混推PD分离方案使整体推理性价比达到主流高端GPU的1.25倍。此外,其算电协同方案使单位电力成本的Token产出提升80%,平均电费比同地区IDC降低10%。

  11. 量子位84

    OpenAI 实施前沿模型断网训练安全政策

    OpenAI 宣布实施新的前沿模型训练安全政策,禁止模型在训练中直接访问真实互联网,改用预先索引和缓存的离线网页环境。此前多次发生智能体突破隔离和跨进程通信事件,OpenAI 采用多层沙箱与虚拟机隔离,并组织包括 GPT-6 Astra Cyber 在内的模型进行红队攻防测试以修补系统漏洞。

    推荐理由:文章梳理了前沿智能体突破隔离的具体隐患与防御手段,有助于读者了解前沿模型训练面临的网络安全边界难题。

  12. 量子位27

    天禧AI × 观猹大会实测个人AI跨端协同新体验

    联想天禧AI在“天禧AI × 观猹大会”现场展示了个人AI跨端协同能力,实现手机语音下达任务、电脑端自动执行完成。该系统基于Harness架构演进出“超能模式”,支持通过内置Skill Creator生成技能并接入外部MCP Server拓展能力。此外,天禧AI 4.5版本将于10月30日升级,重点强化记忆管理与数据隔离。

  13. TechCrunch · AI69

    OpenAI 如何将编码工具打造成常驻个人助手 dots

    OpenAI 企业产品团队负责人 Alexander Embiricos 阐述了公司如何将原本面向工程师的智能体编码能力,重构为常驻个人助手 dots。dots 通过单一实体和持续会话在后台主动处理任务,面向 Pro 及以上订阅用户开放;目前该产品仍面临权限粒度把控与隐私敏感度挑战,并正在就外部支付等能力与生态伙伴展开接洽。

  14. arXiv stat.ML34

    AutoEnergyDesign:用于能源系统设计自动优化的 LLM 智能体框架

    AutoEnergyDesign 框架利用 LLM 智能体推理先前的模拟结果并借助 git 机制自动回滚未成功的变更,实现建筑能源系统设计的自动化优化。在实测负荷测试中,基于 Claude Haiku 5.5、Sonnet 5.5 与 Opus 5.5 的智能体均达到约 3.53 MEUR 的 25 年净现成本,表现优于 TPE 贝叶斯优化和演化策略基线。

  15. arXiv stat.ML59

    论文解析主动记忆召回中的规模代价:记忆库扩大会导致误报率激增

    论文指出主动记忆召回本质上属于多重检验问题,当长期助手的记忆库规模从 8 扩大至 2048 时,原本定为 5% 的误报率会剧增至 87% 到 100%。研究从理论上证明了门控命中率会随库容量增大而呈幂律衰减,解释了词汇与语义通道阈值增长的数学规律。作者据此提出了一种基于提示替换的共形门控方法,无需标签即可在保持高命中率的同时将误报率稳定在约 5%。

  16. arXiv stat.ML30

    交互环境下的近似通用预测

    该研究分析了交互反馈对 Solomonoff induction 等通用贝叶斯混合预测器近似保证的影响。结果表明,无限多可计算环境的超额预测误差阶数为紧致的 $\kappa\eta\,2^{K(\mu)}$,其中 $\eta$ 为训练 KL 预算,$\kappa$ 衡量策略覆盖率。在有界回报下,价值误差受低覆盖分支进入概率与 $\eta$ 平方根项控制,适用于满足特定近似与覆盖条件的架构。

  17. TechCrunch · AI47

    AI 是否会暴露互联网脆弱的基础设施?

    本周开源编程语言 PHP 曝出潜伏数十年的严重安全漏洞,迫使全球大量网站紧急打补丁或临时下线。尽管该漏洞由人类研究员发现,但相关人员已使用大语言模型(LLM)辅助利用,Cloudflare 已监测到数百万次攻击尝试。PHP 支撑了全球约 70% 的网站,AI 智能体的大规模普及正大幅降低此类底层开源漏洞的挖掘与攻击门槛。

  18. The Verge · AI68

    The RealReal 升级反机器人系统,限制 AI 智能体恶意锁单

    二手奢侈品电商 The RealReal 升级了机器人防御系统,大幅提高 AI 智能体登录、加购与结账的难度。此前 The Verge 测试发现,Meta 的 AI 智能体 Muse 能在 20 分钟保留期满后反复重新加购,从而长时间封锁其他顾客购买。The RealReal 首席技术官表示,智能体仍可检索商品并引导用户访问页面,但平台会持续加强防御以应对自动化购物趋势。

  19. AWS Machine Learning Blog57

    Amazon Bedrock 上使用 OpenAI 模型的智能体提示词缓存设计模式

    AWS 介绍了在 Amazon Bedrock 上调用 OpenAI 模型构建 AI 智能体时的提示词缓存设计模式,通过结合显式断点与隐式自动缓存降低多轮调用的输入成本。指南涵盖了静态指令与工具定义的跨会话复用、运行时追加工具、子智能体预热并发扇出以及 Prompt Cache Key 的设计规范。测试显示在 6 轮对话场景中,该模式可使模型输入成本降低超过 60%。

10月26日周一
  1. 科学网35

    科大讯飞企业数智化转型论坛聚焦数字员工落地

    科大讯飞在企业数智化转型论坛上集中发布了WinWork数字员工平台、SuperButton智能决策本体平台以及阡陌AI原生客服平台。其中WinWork基于自主可控大模型底座构建组织级数字员工,涵盖人机协同等五大核心能力;SuperButton则采用标准化按钮式交互以降低Token消耗,推动大模型走向企业级决策。

  2. 科学网41

    中信湘雅生殖助孕妊娠风险评估 AI 智能体上线

    中信湘雅自主研发的助孕妊娠风险评估 AI 智能体正式上线院内电子病历系统,实现诊疗全过程动态风险预警。该智能体在6037份历史病例验证中,助孕与妊娠风险评估准确率分别达98.5%和98.3%,远高于人工评估的73.4%和83.5%。其识别风险因素数量达人工的3.4倍,单次评估时长压缩至3分钟以内。

  3. arXiv quant-ph47

    QuantumMatterExplorer:用于发现量子多体物态的自主 Agent

    研究人员推出基于大语言模型的自主 Agent QuantumMatterExplorer,仅需输入哈密顿量及参数范围即可自主运行数值模拟并绘制物态相图。系统结合持久规划与计算物理工具,采用 DMRG 计算并经精确对角化交叉验证。在受挫自旋-1链测试中,它在 8 小时计算预算内成功识别出 Néel、Haldane 和二聚化等候选相。

  4. 科学网21

    《中国儿童百科全书》出版25周年主题活动在京举办

    10月25日,《中国儿童百科全书》出版25周年主题活动在北京举办,集中展现该品牌从单一图书向IP化运营与数字化智能化转型的新成果。活动现场发布了韩美林设计的全新IP形象“百百龙”、低龄新作《中国幼儿百科全书》,以及与洪恩联合开发的《中国儿童百科全书》智能体,并启动了“百科时光杯”儿童百科知识竞赛。