跳到正文

#Agent

今日 10 条
10月3日周六
  1. 量子位71

    DeepSeek公开大规模Agent训练沙盒架构DSec技术细节

    DeepSeek披露了面向大规模Agent训练的沙盒基础设施DSec,生产环境中单分片支持超过38万个沙盒同时在线,资源超卖率超50倍。DSec将环境拆为基础镜像、工作区和工具包三层,结合3FS按需加载降低磁盘与启动开销,并通过pack_diff增量快照支持状态复用和轨迹分叉。此外,系统将Agent执行逻辑与可抢占GPU训练解耦,避免训练中断时丢失沙盒状态。

  2. arXiv cs.LG43

    表征转移揭示多轮 LLM 智能体的新兴安全风险

    研究发现多轮 LLM 智能体遭攻击时会在内部表征留下累积转移信号,据此提出的运行时防御框架 DART 可有效干预风险。在 6 个模型测试中,DART 将 MT-AgentRisk 攻击成功率从 84% 降至 25%(优于 ToolShield 的 55%),并将 ASEval 攻击成功率从 97% 降至 52%。该框架无需辅助模型,每步仅增加 0.14-0.56 s 开销。

  3. arXiv cs.LG34

    T2SPO:面向智能体强化学习的轨迹到单步策略优化

    研究人员提出强化学习方法 T2SPO,利用历史成功轨迹为大语言模型(LLM)智能体提供单步级反馈。该方法借助预训练 TabPFN 回归器估计每个状态距离成功的剩余距离并提供辅助奖励,仅通过刷新上下文融入新经验而无需更新评估器参数。在 ALFWorld 和 WebShop 上针对 1.5B 与 7B 模型的实验表明,T2SPO 的任务成功率持续优于 GRPO。

  4. arXiv cs.LG33

    Nous:在数据源校准前学习与认证记忆决策

    研究提出 Nous 框架,证明基于信念的智能体记忆无需先完成数据源校准即可学习并认证决策改进。在隐马尔可夫模型族中,学习与认证决策仅需 O(l^-2) 记录量,比固定精度源估计所需的 Theta(l^-4) 实现二次方级减少。在 45,000 个历史和 MiniGrid 环境 9,000 个回合测试中,新证书分别接受了 9/9 相对常数基线及 4/9 相对 last-write-wins 的改进。

  5. The Verge · AI69

    Meta 开源 Muse AI 硬件代码并开放 Home Link 设备申领

    Meta 开源了支持开发者自制 Muse AI 智能体硬件的代码与 SDK,支持在 ESP32 开发板和树莓派上构建 DIY 设备。开发者可将 Muse 接入墨水屏、显示屏及各类传感器以显示提醒或运行交互;此外 Meta 还生产了 5000 台 Muse Home Link 硬件开放候补申领,预计本月发货并支持通过社区技能控制家电设备。

  6. The Verge · AI71

    苹果将收紧 Mac 完全磁盘访问权限以应对 AI 智能体安全风险

    苹果宣布将对 macOS 的完全磁盘访问权限引入新限制,要求用户必须通过极其明确的操作才能向应用授权,以应对 AI 智能体带来的系统级数据泄露风险。此前 Meta 旗下的 Muse AI 曾因借助该权限读取用户消息记录引发争议,苹果指出部分开发者正在滥用原本为备份工具设计的全盘访问通道。苹果目前尚未公布该权限控制更新的具体上线时间。

  7. The Decoder70

    Cloudflare 发布 Clef 与 Clef-flash 决策模型

    Cloudflare 推出 Clef 和 Clef-flash 两款专为 AI 智能体打造的决策模型,旨在以概率化分类输出替代冗长文本推理并减少人工干预。模型分别基于 Qwen3.8-27B 和 Qwen3.5-9B 构建,支持图像多模态输入与 64,000 token 上下文,Clef-flash 中位延迟低至约 39 毫秒。

  8. TechCrunch · AI75

    苹果宣布因 AI 智能体安全风险收紧 macOS 完全磁盘访问权限

    苹果宣布将收紧 macOS 系统的完全磁盘访问权限,以应对桌面端 AI 智能体带来的数据安全与隐私风险。此前 Meta 的 Muse 应用被质疑未经授权读取用户私人消息,ChatGPT 桌面端也曾被报道存在敏感数据暴露隐患。苹果表示未来将引入更严格的控制机制,确保用户只有通过极其明确的操作才能向应用授予该级别权限。

  9. arXiv cs.LG42

    该动作还能解释任务吗?扩散大语言模型智能体的反向打分方法

    研究者提出免训练的 Reflect Reverse 方法,解决扩散大语言模型(dLLM)智能体因掩码解码偏差容易重复执行失败动作的问题。该方法利用掩码 dLLM 对任务 token 掩码并去噪来原生评估逆向条件概率,从而消除动作分布的失真。在 4 个多轮具身基准上的实验表明,该方法相比前向打分基线提升了任务成功率与推进率。

  10. arXiv cs.LG42

    GENSCRIPT:面向表格、时序与关系型合成数据的纯推理管线

    GENSCRIPT 是一种无需模型训练的纯推理合成数据管线,统一支持单表、时序与关系型数据。它基于源数据的统计特征,由大语言模型与 coding agent 编译生成可执行采样器,在 4 个单表 benchmark 上 2 分钟完成构建并在 6 秒内采样 50k 行。测试表明其边际保真度接近领先方法,并能完美保留数据集的列间 1-to-1 映射及主外键约束。

  11. arXiv cs.LG40

    EHR2Trace:面向患者世界模型与临床智能体的可审计 EHR 数据基础设施

    EHR2Trace 将多源电子健康档案转换为可追溯的患者事件,为患者世界模型与临床智能体提供可审计的数据基础设施。系统在三个临床数据集上转换了 8.464 亿个事件,支持 OMOP 和 MEDS 导出,并成功检出全部 28 个注入故障。受控实验表明,严格区分事件发生与信息可用时间,能有效避免因后期诊断提前导致的模型评估性能虚高。

  12. The Verge · AI70

    The Verge 实测 OpenAI 智能体 Dot:定位偏向办公生产力而非生活助手

    The Verge 对 OpenAI 推出的智能体平台 Dots 进行了上手实测,指出该产品定位更接近能操作其他软件的企业协同工具,而非个人生活助理。实测显示 Dot 在预约服务或账户查询等日常网页任务中极易卡在人机验证环节,但在授予电脑权限后能较好地完成视频剪辑与网站代码部署。该功能目前优先向每月 100 美元的 Pro 等高级账户开放。

  13. TechCrunch · AI41

    Circuit Breaker Labs 期望让 AI 对儿童及成人更安全

    Circuit Breaker Labs 推出基于 AI Agent 的安全测试方案,通过模拟不同年龄与文化背景的用户开展红队测试,防止模型引发心理健康等危险问题。该系统每日运行数万至数十万次包含俚语和错别字的拟真对话交互,并依托专有方法生成可审计、可解释的安全评分。目前该团队正面向 AI 心理健康支持和辅导等高风险场景提供安全检测。

  14. MIT Technology Review · AI25

    用自主 AI 重新定义企业智能

    全球 AI 投资预计在 2026 年达到 $2.5 trillion,较上一年增长 44%,但碎片化与数据孤岛使多数企业尚未通过 AI 获得收入增长。企业向智能体运行模式转型需以流程重塑为先,将其置于模型选择之前而非部署后被动改造工作流。具备主权且可组合的数据架构能在数据所在地直接查询与处理,从而支撑 AI 智能体行动并获取持续回报。

10月2日周五
  1. Cloudflare Blog72

    Cloudflare 为 Quick Tunnels 推出 Protected 功能,支持免账号邮箱身份验证

    Cloudflare 在 cloudflared 2026.9.3 中为 Quick Tunnels 推出 Protected 功能,支持通过 --allowed-mail 参数限制特定邮箱或域名访问,双方均无需注册 Cloudflare 账号。

    推荐理由:针对智能体开发中临时暴露本地端口的安全风险,原文给出了无需账号即可添加邮箱白名单的具体实现与安全边界。

  2. Cloudflare Blog54

    Cloudflare 发布统一可观测性平台并推出 8 项重大更新

    Cloudflare 推出统一可观测性平台及 8 项核心更新,将日志、端到端链路追踪、域名分析与自定义告警整合到统一界面与计费体系中。新平台提供统一 SQL API 与 MCP 服务器,支持开发者和智能体直接查询 Workers 及边缘网络遥测数据。此外端到端 Tracing 正式开启公测,Logpush 数据导出功能也向所有自助服务计划全面开放。

  3. Cloudflare Blog70

    Cloudflare 通过 AI Gateway 推出 Web Search API

    Cloudflare 宣布在 AI Gateway 中推出 Web Search API,首批联合 Ceramic.ai、Exa 和 Linkup 提供实时网页检索能力,帮助 AI 智能体获取最新信息。该接口要求合作方遵守验证爬虫标准并保留来源链接,支持 REST API、Workers Bindings 与 BYOK 模式,调用费用按合作伙伴官方定价结算且无额外加价。

    推荐理由:该接口将合规网络检索整合进统一网关,开发者无需自行维护爬虫即可为智能体接入实时网页信息。

  4. AWS Machine Learning Blog46

    在 Amazon SageMaker AI 上使用多轮强化学习微调搜索智能体

    Amazon SageMaker AI 支持通过多轮强化学习(MTRL)微调搜索智能体,并在实践中完成了对 Qwen3.6-27B 模型的端到端训练。该方案针对跨步骤的完整轨迹优化决策,使模型能自主协同调用 BM25 词法搜索与向量搜索工具。平台还提供按 token 计费的无服务器执行模式,并原生集成了 PPO、CISPO 与 GRPO 等算法。

  5. GitHub Blog · AI & ML42

    GitHub:AI 正在改变开发者工作,需强化的 3 项核心技能

    GitHub 指出 AI 正在改变开发工作,建议开发者重点强化引导 AI 智能体、严格评审生成内容以及聚焦高阶技术决策三项技能。在多 Agent 工作流中,开发者可使用第二模型(如 GitHub Copilot 内置的 Rubber Duck agent)交叉评审代码方案以弥补盲区。节省实现时间后,工程师应将精力投入架构权衡、系统设计与需求验证等关键决策中。

  6. Latent Space73

    Airbnb CTO 详解由内而外 AI 改造:重构工程研发与用户体验

    Airbnb 正通过由内而外的策略推进 AI 原生化改造,目前其内部已有 60% 的代码由 AI 编写,约半数客服工单由 AI 独立解决。CTO Ahmad Al-Dahle 透露,团队通过构建名为 Everest 的内部组织上下文图,将机场接送等新业务的研发周期从数月压缩至约 6 周,同时针对编程任务选用最强前沿模型,在搜索等低延迟场景下对小型开源模型进行后训练。

  7. NVIDIA Blog62

    NVIDIA 推出 DGX Spark 64GB 统一内存版本

    NVIDIA 宣布推出搭载 64GB 统一内存的 DGX Spark 本地计算平台,起售价 4,999 美元,将于 10 月 23 日由宏碁、华硕、戴尔、技嘉、惠普和微星等合作伙伴发售。

    推荐理由:新配置保留了相同芯片与软件栈并降低了硬件门槛,两机直连扩展的方案可供需要兼顾成本与扩展性的本地开发者参考。

  8. The Verge · AI54

    AI 幻觉正在加剧部分顾客对现实服务人员的盲目质疑

    生成式 AI 的普及让餐饮、公园向导和课后看护等一线服务人员面临新困扰,部分顾客更倾向相信 ChatGPT 或 Claude 生成的错误信息而非现场专业人员。从坚称含有海鲜的汤底安全、索要根本不存在的葡萄酒或功能,到按照 AI 虚构的路线图出行并怀疑向导纠偏,用户对 AI 幻觉的盲信显著增加了线下服务冲突。

  9. 量子位68

    openJiuwen 开源自演进模型路由技术 x-router

    开源 AI Agent 平台 openJiuwen 推出自演进模型路由技术 x-router,通过动态评估任务复杂度与系统状态将请求分发给不同梯度的模型。该系统支持本地进程内小模型分类与五档能力路由,采用算法与状态解耦设计,并基于运行时反馈闭环持续优化决策策略。在 PinchBench 评测中,开启自演进模式后调用成本相比全云基线降低约 44.6%,得分保持在 70.70%。

  10. arXiv cs.AI35

    RISED:基于评分准则的智能体多环境选择与自蒸馏框架

    研究人员提出用于多环境 LLM 智能体训练的 RISED 方法,在多个模型骨干上取得最高平均通过率,且在每个独立环境中均排名前二。该方法利用跨环境共享的评分准则(rubrics)对行为进行标注,以此指导在线数据选择并减少重合。正面准则作为特权上下文用于同策略自蒸馏以提供 token 级监督,负面准则则引导模型规避重复失败模式。

  11. arXiv cs.AI40

    控制论与认识论:可信 AI 智能体委托缺失的分析语汇

    针对代码生成向 AI 智能体委托时的监管漏洞,一项新研究提出区分协调行动(控制论)与协调理解(认识论)的治理标准,指出智能体每个重大决策都必须附带第三方可检验的反事实条件。该研究将该准则转化为两部分重构测试进行操作化评估,并提出审议记录规范 ORRCF,确保智能体决策背后的理由可检索、可检验,防止人工监管沦为形式主义走过场。

  12. arXiv cs.AI34

    PG-SFT:在离线智能体微调中平衡能力获取与保留

    研究人员提出特权引导监督微调(PG-SFT),利用智能体轨迹的轮次级信息增益调节监督强度,以平衡离线智能体微调中的新能力获取与既有能力保留。实验表明,PG-SFT 在仅付出轻微目标任务性能代价的情况下,显著减少了分布漂移,有效遏制了基座模型在通用推理、工具调用和代码生成等广泛能力上的退化。

  13. arXiv cs.AI64

    智能体任务中的模型与运行框架交互:如何实现最佳适配

    一项新研究对 66 种大语言模型与运行框架的组合展开评测,发现智能体任务中的模型表现排名会随框架切换而大幅反转。在 Terminal-Bench 4 测试中,Claude 在 OpenHands 框架下领先 GPT 7.94 分,但在 PI 框架下却落后 30.16 分,且厂商自带框架与更高花费并不能保证更优成绩。

    推荐理由:该研究通过实测指出模型性能高度依赖智能体框架的交互反馈机制,读者在选型时需将模型与框架协同评估。

  14. arXiv cs.AI41

    ActiveSaddler:面向智能体 Harness 优化的自动课程学习

    ActiveSaddler 引入自动课程学习优化大语言模型智能体 harness,动态调整场景以迭代提示词、工具接口与控制逻辑。该方法将演进课程建模为非平稳老虎机,提炼失败模式并自适应平衡弱点修复与新场景探索。在 GAIA2 和 Terminal-Bench 2.0 上,ActiveSaddler 较固定场景顺序分别将测试 Pass@1 提升 4.4 和 7.5 个百分点。

  15. arXiv cs.AI42

    MemFit:面向智能体的高效长期记忆系统

    MemFit 是一种面向对话智能体的高效长期记忆系统,通过无需调用 LLM 的近即时插入机制将对话逐字存入追加存储,并用分段摘要建立索引。该系统采用结合词汇、语义信号与 cross-encoder 重排的无 LLM 多路检索策略,支持文本和多模态场景。