安全多智能体强化学习(SMARL)的漏洞分析
针对安全多智能体强化学习(SMARL),新研究提出了推理期观测攻击框架 MinMax Attack,在扰动受害智能体动作的同时考量良性智能体的协同抵抗。该研究推导了诱导安全成本的理论界限,刻画其与受害智能体预算及扰动预算的关系。基准实验表明,MinMax Attack 在保持任务奖励以降低可检测性的同时,诱导了显著更高的安全成本。
针对安全多智能体强化学习(SMARL),新研究提出了推理期观测攻击框架 MinMax Attack,在扰动受害智能体动作的同时考量良性智能体的协同抵抗。该研究推导了诱导安全成本的理论界限,刻画其与受害智能体预算及扰动预算的关系。基准实验表明,MinMax Attack 在保持任务奖励以降低可检测性的同时,诱导了显著更高的安全成本。
研究人员提出基于执行驱动交叉验证的协作测试时扩展框架 TEX,用于提升语言模型在长程任务中的测试用例生成能力。该框架并行化智能体生成测试与补丁,通过交叉执行构建 K×K 反馈矩阵指导智能体优化方案。在 SWT-Bench Verified 上,TEX 取得 86.4% 的 SOTA 成绩,相比单智能体基线提升 9.0%,且随机选择输出达 84.4% 同样超越此前 84.0% 的 SOTA。
研究人员提出具身虚拟大鼠训练系统 SCAMPER,使具身模型在目标导向行为和随机探索中均能产生自然的运动。该系统采用变分架构,结合用于控制的运动先验和用于探索的行为先验,有效利用任务结构并生成逼真行为。得益于行为先验引发的多样化动作,SCAMPER 能在稀疏奖励下学习,适用于模拟实验神经科学中的真实任务。
研究人员推出了面向计算化学的持久记忆 AI 智能体框架 Magnolia,依托 LLM 整合分子对接、分子动力学及量子化学等计算流程。该框架采用三层记忆系统,可将单次会话观察提炼为项目条目,并经人工验证提升为跨项目规则以指导后续工作。测试中 Magnolia 跟踪了 317 次运行并沉淀 116 个项目条目,在对接配置检查中取得 10/10 通过率,远高于无记忆运行的 1/10 至 4/10。
研究人员提出了名为 SpaRLax 的强化学习稀疏松弛方法,通过利用 soft-CoT 推理跨时间步的可微性,提升大语言模型软思维链训练的稳定性和有效性。该方法采用 entmax 稀疏机制自适应确定软度,在置信度高时截断长尾噪声,不确定时保留多个候选 token。在 9 个推理基准测试中,SpaRLax 的平均性能超越了基线方法。
针对组合增量学习中的基元表征漂移问题,研究者提出了参数高效方法 LSA-PAST。该方法将 LoRA 集成到冻结的 ViT 中,通过 LSA 为状态、物体和组合构建深度专用的适配器,并通过 PAST 借助无重放仿射变换将历史原型映射至当前适配器空间。实验表明,LSA-PAST 在组合增量学习中取得了 SOTA 的准确率与抗遗忘权衡表现。
研究人员提出 MoSAIK,利用卷积嵌入与 Transformer 编码器直接从标准 TSE k 空间回顾性估计面内刚体运动,无需无运动参考或额外采集。其旋转与平移估计的 MSE 均低于 0.2,皮尔逊相关系数分别约 0.96 和 0.94。在活体测试中,超 75% 的切片较未校正重建实现信息增益,有效减少伪影并保留了解剖细节。
研究者提出基于逻辑熵驱动的多模态问答方法 EDMA,将问答形式化为迭代降熵过程以量化各模态的贡献。该方法包含单模态降熵估计、多模态融合及最大降熵轨迹选择三大机制。在标准 MMQA 基准上,EDMA 相比 Planning Prompting 平均提升 12.8 F1 和 4.6 LLM-J 点,相比 CoT 提升 18.6 F1 和 8.3 LLM-J 点。
研究人员提出 PORA(配对结果引导推理分配)方法,让 LLM 智能体在多步任务中根据剩余预算动态决定每次操作采用短推理还是长推理。在 BFCL memory 基准上,该方法超出最强现有基线 17.4-32.9 个百分点。在代码和数学任务中,PORA 达到或超过了全程使用长推理的效果,同时分别减少了 50.6% 的 actor token 和 31.2% 的模型请求。
研究人员提出 PROVISO 控制器,在 LLM 智能体提出动作后且执行前决定最终提交的动作,以提升智能体安全性并平衡效用。它将可信观测、外部观测、提议动作及备选动作编码进带溯源类型的记忆中,通过角色特定查询进行关联,并提交校准值最高的动作。在 SkillsBench 和 ToolSafe 上,PROVISO 的 F1 分数分别比最强基线提升 13.84 和 7.07 分。
研究人员提出免训练框架 Omni-Woodpecker(OWP),通过跨模态冲突检测与隐藏状态正交分解,在解码前抑制误导性先验并恢复有效证据,从而修正 Omni LLM 的跨模态模型幻觉。
研究人员推出面向临床病历的 4B 参数决策模型 CS1-4B,可在单次前向传播中快速回答多个定型临床问题并输出置信概率。该模型基于 360 万名患者的 1240 万组问答训练,在保留测试集的大多数任务中超过了参数量高达 27B 的开源模型,推理速度提升 6.4 倍。在与语言模型智能体协同筛选临床试验候选人时,该方案相比大语言模型全量阅读病历节省了 690 倍 token。
该学术专著为物理 AI(Physical AI)建立了统一框架,将其定义为在真实世界约束下通过持续反馈来感知、建模并作用于物理世界的人工系统。全书共 12 章、388 页并包含 64 张图表,梳理了多模态感知、世界模型、具身基础模型及软硬件协同设计等核心方法。内容重点探讨了从仿真到真实世界迁移、实时执行与安全性等挑战,旨在推动其迈向物理通用人工智能(Physical AGI)。
研究人员提出即插即用的闭环多智能体框架 M-Plan,通过整合长短期记忆与全局-局部引导,提升 LLM 智能体长周期多轮任务的决策与推理能力。执行过程中智能体依托里程碑与局部提示构建短期记忆,任务结束后信息经优化重组再写入长期记忆库。在 ALFWorld、Webshop 及 PDDL 上的多模型实验表明,M-Plan 在准确率和效率上均优于基线方法。
研究人员提出结合 KL 锚定均衡的策略偏好优化方法 SPOKE,用于提升紧凑型 AI 智能体在不完全信息扑克博弈中的策略水平。在 SmallThinker-4B-A0.6B 的三次测试中,SPOKE 在 Kuhn 和 Leduc 环境中取得最低的平均可被剥削度 0.213 与 1.081,并在六人桌达成最高的 top-1 一致性 0.775。
最新论文研究了多智能体协作在临床任务中能否减少模型幻觉,发现协作虽能提升任务性能,但通常不会降低推理过程中的幻觉。研究评估了单模型基线及三种多智能体拓扑在 4 个模型和 3 项任务上的表现,在 12 项显著差异中幻觉反增的情况占了 8 项,且拓扑结构并无明显优劣之分。结果表明幻觉的变化方向完全取决于底层模型自身能力,多智能体协作仅重新分配了既有能力,无法凭空弥补模型缺陷。
研究人员提出了 SPEM,一种面向 LLM 智能体的轻量级结构感知程序性记忆框架,以解决技能库规模扩大带来的高 token 与运行开销问题。该框架维护原子技能记忆与可复用的 Skill-DAG 记忆,并利用 Skill-GNN 进行状态和结构感知的技能选择与回写积累。
研究通过 7 个 STRIPS 领域解耦了经典规划中结构难度与语义理解对 LLM 的影响。免训练启发式方法 $h_{\mathrm{add}}$ 预测结构难度的表现优于学习型模型,保留状态但重命名谓词使 LLM 规划成功率从 67.5% 骤降至 40.0%。结果表明经典符号启发式已能良好评估结构难度,改进混合规划的关键在于建模 LLM 对谓词语义的敏感性。
研究人员提出轻量级统一多领域多模态对话推荐框架 LightCRS,通过离线预计算商品表征,线上仅用 5.3M 参数的模块融合特征并共享跨领域参数。在涵盖 25 个领域的 MM-R2A-25 基准评测中,LightCRS 的 HR@1 相比最强基线提升 35.4%,同时单次查询延迟降低 266 倍。联合多领域训练也使 HR@1 比单领域独立训练模型提升 15.2%。
研究者提出一种用于 Lean 4 的在线步级修复模块,通过将编译器报错反馈给预训练修复模型来就地修正失败策略,而非直接丢弃。在包含 1,990 个定理的 LeanDojo 子集上,该方法相比纯采样基线实现最高 32% 的相对提升并多证明 82 个定理,且首次修复尝试即贡献了 84–96% 的总收益。该方法在 Lean Workbook 基准上同样成功复现,使求解率接近翻倍且零回归。
针对智能制造中动态环境、复杂物理约束与高可靠性要求等挑战,该综述系统梳理了 LLM 驱动的工业 AI 智能体技术体系。文章分析了五大核心挑战,建立了涵盖应用场景、具身形式与五个能力等级的统一分类法。研究进一步提出了用于闭环任务执行的四层系统架构,并梳理了工业全生命周期的代表性应用与未来方向。
研究人员提出数据分析任务合成框架 DataPraxis,通过逐步丰富并组合经验证的工作区来发掘更深层分析任务,并在演进与组装阶段持续验证结果。基于该框架构建的 DataPraxis-5K 数据集包含 5,000 条跨领域轨迹,用于训练 DataPraxis-27B 与 DataPraxis-35B-A3B。
研究人员提出边缘端智能体框架 MedPAO-Assist,可直接基于放射科医生的听写与语音指令生成结构化报告,支持胸部 X 光、胸部 CT、腹部 CT 和脑部 MRI 四类影像模态。
研究人员提出一种面向 LLM 电路生成的训练方法,通过优化 PPA 目标空间中整个电路集的质量与多样性,实现帕累托最优的 RTL 代码生成。该方案采用序列化电路生成的训练流程,并引入基于超体积贡献(HVC)的奖励函数衡量电路对帕累托前沿的贡献。
研究人员提出了一种结合大语言模型与强化学习的自主建造方法,用于移动式起重机的动作规划与施工监控。该方法采用增强型 Soft Actor-Critic 强化学习算法结合机器人运动学实现起重机精准控制,并利用定制嵌入模型提取施工环境信息。系统接入 ChatGPT 5 负责实时更新施工进度、向控制系统提供安全信息并自动生成进度报告,其可行性已通过全尺寸挡土墙建造实验验证。
研究人员提出协同 AI 智能体框架 Navalia,结合可验证任务合成与长程后训练以解决跨文档证据整合与多步数值推理难题。该框架以企业财报为数据源构建可执行计算链,并利用独立大语言模型审查与程序化检查验证证据一致性和答案正确性,进而开展冷启动 SFT 与 RL。
微软研究院研究员 Xinzhi Zhang 与合作者结合人类引导的 AI 智能体协作,成功证明了高维几何与概率论领域历时 31 年的核心公开难题 KLS 猜想。
推荐理由:该成果展现了人类专家引导与多智能体并行搜索结合在重大数学猜想证明中的效用,为科学发现提供了协作参考。
Google Research 联合多家机构发表研究,证实其 AI 系统能直接解读非专业医护人员采集的盲扫超声,并在移动设备上实时评估胎儿孕周。在跨越美国与肯尼亚的前瞻性临床测试中,该模型评估孕周的平均绝对误差为 4.18 天,表现不劣于专业超声医师测量的 4.48 天,且在胎儿体重极端等复杂场景下保持良好鲁棒性。这项技术结合便携式探头,有望显著降低操作门槛并扩大低资源地区的产前筛查覆盖率。
推荐理由:原文展示了 AI 算法配合盲扫超声在多地真实临床中的泛化表现,为低资源环境利用便携设备普及产前筛查提供了实践参照。
该研究提出了一种名为个人健康智能体(PHA)的模块化多智能体架构,用于应对个人日常健康管理中的多样化需求。系统由中心编排器协调数据科学、领域专家和健康教练三个专业智能体,分别处理时序数据分析、循证医学推理与对话行为指导,基础模型采用 Gemini 2.0 系列。在基于 1,165 名参与者的真实代谢健康数据集及 11 项基准任务中,该架构在用户体验与专家评估上均显著优于单智能体和静态并行系统。
研究团队在《Nature》发表 16B 参数的 AI 模型 Pinal,可直接根据自然语言描述设计具有实际功能的蛋白质。该模型无需经过迭代优化,即可展现经实验验证的活性,并有效提高了二氧化碳固定产物的产量。
研究人员在《Nature》上发布了一款用于分析个人健康数据并提供建议的 AI 个人健康智能体。目前大语言模型在健康咨询领域被广泛使用,据估计三分之一的美国成年人会向聊天机器人寻求健康答案,全球每周约有 2.3 亿人向 ChatGPT 咨询健康与养生问题。
一项新开发的 AI 应用将次季节天气预报的有效预测期提前至 3–5 周,可更准确地预测降水、气温和气压。该工具同时优化了基于物理机制与基于 AI 的气象模型,有助于提升对酷热、严寒、暴雨及洪涝等极端天气的早期预警能力。
研究团队在 Nature 发文展示了利用生成式蛋白质设计从头构建人工金属酶骨架,并结合定向进化成功实现高效、高对映选择性的光催化反应。该人工酶可直接配合市售外消旋金属配合物使用,支持多种光驱动反应且具备高催化周转率与可回收性。光谱研究表明蛋白质环境延长了催化剂激发态寿命并重塑底物排列,从而精准控制了立体选择性。
加利福尼亚大学洛杉矶分校团队研发出一种光学-神经网络混合系统,能以高达 97.8% 的准确率检测 Deepfake 视频。该系统能单步并行处理 15 个及以上独立视频流,在 Celeb-DF 数据集上达到 97.79% 的平均准确率与 99.86% 的灵敏度,并在 Google VEO-3 生成视频测试中取得 94.80% 准确率。
OpenAI、PerturbAI 与 Scripps Research 合作利用分布式 AI 智能体,从数百万个脑细胞的数据中发掘出有前景的研究线索。该项目展示了如何通过部署数千个 AI 智能体加速生物学数据的分析与研究发现。
研究人员开发出多智能体系统 El Agente Cuántico,利用协调智能体将任务分派给适配不同软件包的专业智能体,实现量子模拟自动化。该系统能生成代码、数值结果与图表,覆盖分子能量计算、时间晶体及量子纠错等任务,在五项任务的专家评估测试中平均得分达 97 至 100 分。该方法旨在辅助科学判断,减少研究人员在软件语法上的负担。
Anthropic 的 Claude 在其科研环境 Claude Science 中自主设计针对蝎子神经毒素的蛋白质结合剂,并在实验室测试中得到验证。Claude 在初始提示后自主工作 24 小时生成逾 31 万个设计,测试的 211 个候选中最终有 17 个达到结合标准,其中两款与墨西哥蝎毒素 Cn2 结合紧密。该成果已获两家独立实验室确认,但实际抗毒血清效果尚未进入实测阶段。
研究人员探讨了具有 Kerr 非线性的各向异性 Dicke 量子电池中相变对充电过程的影响。研究发现,在多重近似简并区域之外,稳定储能主要受遍历-非遍历相变控制,而在该区域内则由一阶和二阶耗散相变主导。研究还结合强化学习优化了量子电池的充电过程,为基于内禀相变行为调控与提升量子电池性能提供了可行路径。
针对动态量子网络中多请求竞争链路容量与量子存储的问题,研究团队提出了基于混合整数线性规划(MILP)以及 DQN、PPO 和 SAC 的强化学习(RL)纠缠提纯调度器。
研究人员提出了一个结合软定律约束与路径相关监督的统一框架,用于从分布观测和离散轨迹中学习随机动力学。该方法将任务形式化为离散路径相关的 McKean-Vlasov 控制问题,其最优化系统表现为带有条件伴随跳跃的 McKean-Vlasov 前向-后向随机微分方程(FBSDE),并配备了因果表征的神经求解器。