ToM2Vec:面向多智能体协作的连续心智理论 Token
研究团队提出 ToM2Vec,通过固定预算的连续推理 token 在隐空间构建心智理论(ToM),以提升 LLM 智能体的多智能体协作能力。在 Overcooked-AI、Hanabi 等协作与对抗场景中,该方法显著优于基线,并成功泛化至训练未见过的闭源模型 GPT-5.4。该隐式 token 还能直接提升智能体对搭档信念、意图和下一步动作的判断能力。
研究团队提出 ToM2Vec,通过固定预算的连续推理 token 在隐空间构建心智理论(ToM),以提升 LLM 智能体的多智能体协作能力。在 Overcooked-AI、Hanabi 等协作与对抗场景中,该方法显著优于基线,并成功泛化至训练未见过的闭源模型 GPT-5.4。该隐式 token 还能直接提升智能体对搭档信念、意图和下一步动作的判断能力。
研究人员提出面向人类监督 AI 安全系统的协同多层运行时监控框架 COMET,整合信号完整性、物理一致性与能力边界监控输出并映射为交通灯式诊断展示。在压缩空气泄漏检测评估中,COMET 在约 1% 标称虚警率下,将协变量偏移及四分之三传感器故障中的误信错误率降至 0。该框架能将匿名警报转化为具体故障诊断,有效解决了裸 AI 系统的静默失效问题。
针对生物医学主张验证智能体的对照研究表明,检索而非推理是主要瓶颈,闭卷模型引用的真实 PubMed ID 中仅 3/327 相关。自主编写 PubMed 查询的 ReAct 智能体将金标准召回率提升 3 倍并实现 62% 准确率,引用相关率达 67%。直接提供金标准摘要时准确率达 79-86%,证明仅验证引用存在并不安全;相关代码已开源。
TraceForge 提出了一种以学生模型自身风格生成推理过程(reasoning trace)的知识蒸馏方法,解决前沿模型隐藏推理链的问题。该方法通过监督与对抗两阶段训练,生成 trace 的真实度评分达 0.68(经 critic 筛选达 0.82),优于真实 trace 的 0.66。
新研究测试了配对指令依赖性在视觉-语言-动作(VLA)语料库选择中的决策价值。在 136 个四足导航语料库实验中,该指标虽降低了平均绝对预测误差,但 primary proper-log-score 增量仅 +0.059 nats,且在预设 top-20% 对比中未带来增量选择增益。结果表明反事实响应结构被压缩为无符号统计量时,所提供的实际决策价值较为有限。
针对强化学习下大语言模型并行思考易陷入路径模式坍塌的问题,研究提出多样化并行思考(DPT)强化学习方法。该方法通过惩罚并行推理路径的前缀相似度来奖励差异化策略,进而实现对推理空间的更全面探索。在多个推理 benchmark 上的实验显示,DPT 超越以往基线并达到 SOTA 表现,相关代码已开源。
研究人员针对游戏 Order of the Sinking Star 在 11*11 棋盘上的非局部水晶交换谜题,通过代价有界的精确广度优先搜索给出了 93 步的最优解,排除了所有更短可能。该搜索结合可采纳启发式与剪枝策略,计算中保留了 605,349,215 个占位集合与 1,863,925,136 个状态。研究团队公开了源代码和复现程序,完成了该谜题实例的计算机辅助证明。
RubricOpt 框架允许策略模型在偏好优化中自我修订行为准则,通过诊断自身输出保留已覆盖要求,并针对未解决的常见失败编辑准则条款。该准则在保持偏好对与目标固定的情况下指导 DPO 训练,并在评估阶段移除。在能力和开放式生成基准测试中,准则调节相比常规 DPO 能改善结果,但在不同模型与数据集上收益存在差异。
研究人员提出长程对话智能体记忆整合框架 PreCoMem,通过预测编码将记忆表示为置信度加权信念,并基于 Effective Surprisal 信号在 MAINTAIN、PROFILE 与 CORRECT 机制间调度更新。该框架在 LoCoMo、LongMemEval-S 和 PersonaMem-v2 上取得 SOTA 表现,在新基准 DiMoBench 上兼顾抗噪与信念漂移适应,代码已开源。
研究发现世界模型的回报估计错误主要源于关键事件转换而非像素渲染质量,仅修复获得奖励或回合结束的转换即可消除中位数 70% 的回报误差。在 Atari-100k 的 44 组测试中,事件补丁在 39 组中显著优于随机修补且中位数增益达 +44 个百分点,而按 MSE 等像素指标修补效果甚至不如随机对照。该结构不仅提升了规划排序,还能指导扩散模型定向修复失效。
研究人员提出多模态情绪识别框架 MERP,通过将多模态序列映射至固定大小的潜在库,解决部署时模态缺失导致的性能下降问题。在测试期 20% 随机模态缺失下,MERP 在 CMU-MOSEI 和 M3ED 上的 micro-F1 分数分别达 0.563 和 0.780,在仅音频极端设置下保持 0.473 micro-F1,相关代码已开源。
研究者提出并行证明数求解器 Sanko,通过证明转移定理实现了局面同形劫(PSK)规则下的围棋高效求解。Sanko 在 6 线程下仅用 16 分钟便求解 5x5 围棋(此前 SOTA 需 5.25 小时),192 线程下只需约 1.5 分钟。该成果还首次确定了另外 23 个棋盘的 PSK 博弈值(含 11 个此前未解棋盘),并开源了求解器源码及复现数据。
研究团队系统评测了 LLM 智能体的贝叶斯推理能力,发现模型在上下文更新信念时普遍违背贝叶斯法则。但当模型配备推理能力与代码执行功能后表现大幅提升,甚至能紧密逼近解析不可解的后验分布。该评测表明,结合合适工具的现有 LLM 已可支持科学发现中的复杂信念更新,从而提升 AI 科研效率。
研究团队开源了 AgentMonopoly 评测环境,评估来自 4 个模型家族共 8 种尺寸的 LLM 智能体在博弈中的策略与角色控制效果。测试显示各模型在交易频率、租金免除及资产管理上差异显著,且更大尺寸的模型并未表现出持续的胜率优势。角色提示词虽能改变智能体的用词与部分动作,但无法保证其所有决策均与角色设定保持一致。
SpatialBrain 是一个在保持视觉语言底座固定的前提下、通过积累决策经验来提升空间推理能力的框架。它包含融合场景观测信息的 3DFusionMemory、提供可复用工具程序的 Spatial Skill Library,以及将任务条件与决策经验关联的 Spatial Cognition。
研究提出后状态世界模型规划框架 AWMP,利用预训练 LLM 作为外生世界模型预测未来作业到达以优化动态调度。该框架结合惊奇触发刷新机制与在线残差自校准,仅在实际到达显著偏离预测时查询 LLM 并自适应校正。相比 8 种经典优先级调度规则,AWMP 在动态与柔性作业车间基准上分别将加权拖期降低 6-21% 和 22-46%。
研究团队推出包含 2,880 个提示词的 FrameBench-HPS 基准,评估七款大语言模型在医疗、金融等高风险场景中的收益与损失框架效应。测试发现互补的得失表述使 32.4% 完整组别的推荐类别发生改变,多数变动涉及不确定性而非直接反转。实验表明概率规范化能大幅降低框架敏感度,为改善大语言模型决策支持的一致性提供了切实可行的方案。
针对药物推荐中的药物相互作用(DDI)约束,研究者提出利用混合整数线性规划进行精确全局解码,直接联合选择最高分且符合安全约束的药物集合。在 MIMIC-III 数据集及 FLAME 冻结模型评分测试中,该方法在严格 DDI 约束下测试集 Jaccard 相似度比最强局部修复基线高出 +0.0064,能保留更多真阳性并有效减少假阳性药物。
新研究评估 Jev、Liquid d1 和 GPT-6 Luna Decisions 三款决策模型发现,在多正确选项场景下模型存在严重的非对称概率分配问题。即使模型将所有正确选项排在干扰项之前,仍有 28% 到 50% 的列表中至少有一个正确选项的概率低于均匀概率 1/n。当提供 5 个相同正确选项副本时,平均概率差距达 17 至 79 个百分点,表明设定概率阈值无法准确识别出全部正确选项。
研究人员提出 TeachBack 框架,通过双向偏好优化解决在线自蒸馏(OPSD)中特权教师模型过度依赖参考答案、缺少推导与纠错过程的问题。该框架通过调控提示词中参考推理后缀的长度与风格促使教师自主解题,并利用成对偏好目标实现教师与学生轨迹的双向优化互促。实验表明,TeachBack 在数学和逻辑推理任务上的表现持续优于现有在线自蒸馏方法及相关基准。
研究者提出陷阱预判世界模型(PAWM),能在出现潜在陷阱时选择性介入并预测即将发生的失败,从而引导黑盒 LLM 智能体规避错误。PAWM 采用合成陷阱数据进行 SFT 训练,随后通过与黑盒 LLM 协同的 GRPO 进一步优化。评测显示,PAWM 使 Claude Sonnet 4.5 在 ScienceWorld 和 WebArena-Lite 上的表现分别提升 24.3% 和 7.7%。
研究提出面向上下文价值漂移的选择性解码方法 LaVGuard,通过十维画像与密度门控在预算约束下调整 logit 生成。该方法将 5% FPR 下的边界 TPR 从 0.58 提升至 0.72。在 0.12 相同平均干预率下,LaVGuard 取得 0.88 的风险安全分,优于位置匹配编辑的 0.72。
NormTune 是一种范数引导的参数高效微调(PEFT)方法,通过依据权重更新范数自适应强化更新不足的层,弥合 PEFT 在推理任务上与全参数微调的差距。在 S1K-1.1 上训练时,NormTune 使 rank-8 LoRA、Bone 和 MoRA 平均准确率分别提升 24.24%、11.33% 和 16.21%,且 rank-256 配置表现达到并微超 S1 全参数微调基线。
研究团队提出随机算法 StochIKM,利用具备视觉能力的语言模型结合严格约束,可从已发表的 Kaplan-Meier 曲线中自动化重建一组高保真的个体患者数据集。该算法以精确复现风险表、图像分辨率范围内的曲线、中位数与事件数为硬性约束条件。在模拟实验及 79 个肿瘤试验组测试中,StochIKM 复现风险表和中位数的表现均优于 LLM 改进版 IPDfromKM。
针对自我改写支架的代码智能体,新方法提出在代码编辑实际运行前结合差异特征进行线性评分,以实现低预算的递归自我改进搜索。在留出的 HumanEval+ 测试中,GPT-4o 藉此取得 87.0% 的解决率,优于 Huxley-Gödel Machine 算法的 85.1% 及初始支架的 81.2%。采用 Claude Sonnet 4.5 时该得分达 86.6%,同样超越消融对照组的 85.3%。
针对多任务模型合并中的子空间干扰问题,研究者提出分组低秩感知模型合并方法 GRAM。该方法仅依赖微调权重,利用任务向量的主角几何特性将相容任务分组,并在组内执行基于 SVD 的合并。在仅增加一个模型(K=2)的设定下,GRAM 在 Flan-T5、8 任务 CLIP 及 Qwen2-7B-Instruct 医疗指令微调任务中均优于先前合并方法。
研究提出多语言大语言模型推理轨迹差异框架,通过结构相似度与顺序一致性评估跨语言推理链。在 3 个基准、7 种语言和 6 款前沿 LLM 测试中,整体相似度前 25% 的样本有 52.1%–67.3% 未进入结构相似度前 25%。双语盲测证实人类判断更偏向结构相似度,表明传统方法严重高估了多语言推理的一致性。
该研究在 653 名 AuroraBP 受试者上评估了光电容积脉搏波(PPG)与上下文对会话校准血压追踪的贡献,基础模型收缩压/舒张压 MAE 为 7.697/6.139 mmHg。
一项新研究评估了 15 个大语言模型在多实例处理(MIP)聚合预测中的表现,发现模型存在显著的输入顺序敏感性,最优与最差顺序模式间的准确率差异可达约 90 个百分点。当多数标签样本出现在开头时模型准确率通常显著高于出现在中间或末尾。推理轨迹与基于梯度的归因分析显示,模型的推理过程不成比例地偏向早期实例,且首尾位置的归因权重普遍高于中间位置。
研究团队提出 AutoFraming,通过分析代码属性图(CPG)提取信息,引导 LLM 从 C 代码中合成包含区域隔离与数据依赖的 ACSL 框架规范。在包含 84 个真实系统函数的基准测试中,该方法无错规范合成成功率达 92.9%,较现有 SOTA 相对提升 179%,在另一 51 个函数基准上成功率达 96.1%。集成到现有合成框架时,性能最高提升 61.9%。
研究人员提出基于区域的时间序列解释框架 GRAIL,采用心电图波段等领域特定区间作为博弈单元,推动模型解释从单时间步显著性转向语义理解。该方法利用流形上条件生成器构建反事实基线,通过带方差缩减的 Owen values 进行归因,并支持将年龄、性别等静态表格特征与时序信号同尺度评估。合成与真实数据实验显示其具备忠实且稳健的解释能力。
研究提出将继承性作为 LLM 提示词合并算子的准入测试,规定子代向供体移动的置信下限须达请求剂量的一半才予接纳。在 gemini-3.1-flash-lite 谈判测试中,tactic append 与 constrained rewrite 均获通过,而 free rewrite 因仅移动三分之一剂量被拒且未能超越第 0 代最优成员。
研究人员提出一种用于头颈部质子放疗规划的多智能体复合 AI 系统,结合 PPO 强化学习自动方案生成与 LLM 对话式微调。规划智能体采用经 SFT 与 GRPO 后训练的 Qwen3-14B,与评估智能体及对话界面协同提供证据驱动的调整建议。在 21 例头颈癌患者测试中,该模型提升了指令遵循与推理表现,更有效地权衡并满足了多项临床指标。
研究提出 AgentPolicyForge 框架,利用可执行环境构建策略基准并迭代训练 AI 智能体的策略防护器(guard)。该框架构建的 PolicyGym 数据集涵盖 10 个策略族,包含 698 个训练场景与 254 个独立的人工复核测试场景。在 PolicyGym 评测中,最终防护配置相比提示词约束将攻击成功率相对降低 40-44%,并减少了良性误拒。
研究团队提出 LLM Agent 内存架构 PerMIT,通过在 Lean 4 中经过机器验证的完整性定理,确保未受信环境数据仅在门控确认后才能触发敏感动作。在 Trojan Hippo 测试中,PerMIT 结合轻量验证器实现了 0 攻击成功率。
大语言模型在纯文本对话中拒绝的有害请求在工具调用场景下频繁失效,标准工具提示设置下有 10% 至 52% 曾被拒绝的有害请求仍会触发不安全的工具调用。研究团队构建了涵盖 4 个领域、2,304 个提示词的三元组基准并测试了 5 款模型,发现工具调用上下文中模型残差流的拒绝方向激活普遍下降。
推荐理由:原文通过对照基准和内部表征分析,揭示了大模型在文本对话中学会的拒绝机制无法有效迁移到工具调用行为。
研究人员提出一种受模型预测路径积分(MPPI)启发的测试时框架,结合世界模型多分支预测与双分支经验记忆实现 LLM 智能体自改进。智能体在每步提出多个候选动作并由世界模型预测结果,通过评估任务进度与风险成本权重指导最终决策。在 ALFWorld 和 ScienceWorld 上跨 3 个基础模型的实验验证了该方法的有效性,相关代码将公开发布。
研究团队提出了评估代码智能体备份意识的基准 RegretBench 与自动化备份层 BackUpper,用于解决智能体在修改环境状态时缺乏事前保存机制的问题。评测显示六款前沿模型平均任务完成率达 86.1%,但在产生破坏性修改前的备份率仅为 15.2%。
D-Skill 框架通过分析成对轨迹将黑盒教师模型的行为优势离线提炼为自然语言技能文档,供学生模型在推理阶段使用而无需更新权重。在 SpreadsheetBench-Verified、ALFWorld 与 chess puzzles 评测中,该方法弥合了 75%-95% 的师生差距,表现超越单轮 SFT 基线。同模型家族下,学生模型的单任务推理成本比教师模型降低 5.7x-8.3x。
Prolog 教材《Simply Logical》梳理了其从 1994 年附带 3.5 英寸软盘的印刷版,演变为如今完全交互式在线版本的三十年历程。三位作者分别结合原书教学理念、现代 Web 编程的交互实现以及创作工具包构建,探讨了技术对教育材料的影响与未来 Prolog 教学机遇。