用于机器学习应用的代数整数重整化(AIQ)
研究者提出了代数整数格式(AINF)并推出用于大语言模型推理的有损压缩格式代数整数量化(AIQ)。AINF 可直接简化为纯整数运算,实现无误差乘加操作,并支持根据具体用例定制数值特征。实验表明,基于二次代数整数的 AIQ 在相同每参数比特预算下,在多个模型与基准测试中均取得了与行业标准 MX 格式相当的精度。
研究者提出了代数整数格式(AINF)并推出用于大语言模型推理的有损压缩格式代数整数量化(AIQ)。AINF 可直接简化为纯整数运算,实现无误差乘加操作,并支持根据具体用例定制数值特征。实验表明,基于二次代数整数的 AIQ 在相同每参数比特预算下,在多个模型与基准测试中均取得了与行业标准 MX 格式相当的精度。
研究人员提出 Rollout-Time Intervention(RTI)技术,通过在 rollout 采样期间利用奖励端证据将错误轨迹纠正为成功轨迹,突破大语言模型(LLM)智能体在强化学习中的 on-policy 探索瓶颈。该方法过滤掉分布偏移过大的轨迹以稳定指导策略优化。在 5 个基准测试上的实验表明,RTI 持续优于强化学习基线,相关代码已开源。
研究人员提出了针对高亮度大型强子对撞机(HL-LHC)异常检测的事件表征局域诊断流程,以解决低维表征缺乏直接物理可解释性的问题。团队在包含 7.5 亿模拟事件的 COLLIDE-2V 数据集上评估了监督与自监督神经嵌入策略,发现监督目标在 10% 背景接受度下全面提升了所有保留进程的信号效率。
研究人员提出面向大语言模型(LLM)智能体的统一网络访问接口 Web$hell。该接口通过 WebContract 定义通用模式,利用 WebCompiler 将实时网页编译为可寻址的信息与动作对象,并在 WebCache 中维护,为智能体提供一致且持久的网络访问支持。实验表明,Web$hell 在网页搜索、网页导航和深度研究评测中均以更低成本取得了强劲的任务表现。
RegulaTutor 是一个面向长期个性化辅导的理论指导框架,基于自主学习(SRL)研究将学习历史证据、学习者解读与教学指导直接关联。该框架通过 CAMM 架构推导并动态更新具有证据支持的教学策略,并利用 PairRoute 离线流程区分框架与模型故障,系统化优化历史证据获取。评估显示,RegulaTutor 在多项模型配置下平均提升了历史证据准确率、学习者诊断及教学质量评估表现。
SWE-Critix 提出了一种后训练流程,用于训练能够评估编码智能体轨迹的通用验证器,可预测完成标签并生成自然语言解释分析。该流程结合 SFT 与 RL,在 CodeForge-Preview 轨迹上训练了 30B 模型,使测试集分类准确率从基座 Qwen3-30B-A3B 推理模型的 57% 提升至 SFT 后的 66% 和 RL 后的 78%。项目已开源模型、数据集与训练代码。
AlphaNIST 通过稀疏二元任务奖励在仿真环境中从零训练单一策略,在涵盖 20 项任务的 NIST Assembly Task Board #1 上达到 98.2% 的总体训练成功率,无需人类演示、密集奖励塑形或分任务调优。该框架还能在未指定顺序且仅在全部完成时给予奖励的设定下,于单回合完成 10 组装配。训练出的策略自主涌现出重定向零件、抓取规划等灵巧与类规划行为。
研究者提出了首个用于工具集成化学推理的掩码扩散语言智能体 ChemDiffAgent,将化学推理重构为在交替推理与工具使用轨迹上的迭代去噪过程。通过包含智能体监督微调和降方差偏好优化的两阶段后训练框架,该方法在涵盖 6 项化学任务的基准测试中比自回归智能体提升约 20%。其 8B 模型表现媲美甚至在部分场景超越了 GPT 5.5 和 Claude Opus 4.7 等前沿大模型,相关代码已开源。
研究者提出了两阶段数据-模型协同演化框架 BoundaryEvo,用于将大模型的长链推理能力蒸馏给小模型。该框架先通过初始蒸馏赋予学生模型基础推理能力,再动态筛选学生未掌握但专家能解决的问题以演化训练数据。
研究人员提出无需训练的智能体内置记忆修复框架 DREAM,利用神经科学启发的弱再激活机制实现对投毒记忆的选择性遗忘。实验表明,DREAM 将后门投毒攻击成功率降低超过 95%,并在受投毒的多智能体系统上达到 92.96% 的任务成功率。相比 A-MemGuard,该方法最高实现 2.13x 加速并减少 37.7% 的 token 消耗。
研究团队提出科研框架 JANUS,通过协同演化的世界模型驱动“预测-验证-演化”循环,解决长周期自主科研中的高成本试错与反馈延迟。该框架由世界模型在执行前预测评分并筛选分支,收到真实反馈后再将经验蒸馏为演化技能。在 MLS-Bench-Lite 及真实科研任务评测中,JANUS 显著超越 SOTA 基线,实现更高的演化效率与能力上限。
研究人员提出 AdaC-GRPO 强化学习框架与细粒度基准 FG-Sudoku,用于解决前沿多模态大模型在长程视觉数独任务中因低成功率导致的奖励稀疏问题。该方法通过在线采样准确率动态追踪模型的最近发展区来构建训练批次。
RoleWorld 提出了一种符号化世界建模方法,通过可复用原型与环境特定参数构建功能角色抽象,实现大语言模型(LLM)智能体跨环境的知识迁移。教师 LLM 提取角色原型与可执行转移规则,执行者 LLM 在不更新模型参数的情况下在线校准角色分配并主动测试假设。在 MARS benchmark 上的实验表明,该方法能在物体行为显著变化的环境中实现鲁棒泛化。
研究人员提出结构化评分框架 TQS,无需 LLM 裁判且呈线性时间运行,专门用于评估代码智能体的交互轨迹结构质量。该框架从信息聚焦、意图与动作对齐以及策略动态三个维度进行度量,并在公开开源语料库的 155,144 条成功轨迹上完成排序筛选。实验显示,在 TQS 高分轨迹上微调的模型在 SWE-Bench-Verified 上的表现持续优于随机或低分子集训练的模型。
研究人员提出 VIGOR 框架,通过执行验证与分阶段几何优化解决工业场景程序中可执行但不符合工程约束的问题。该工作构建了包含 1,749 个可构建场景、完整可执行程序及每场景 94 项最终状态几何检查的数据集。实验显示,VIGOR 达到 96.86% 的 Complete Feasibility 和 91.20 的 Overall 得分,比最强基线 Overall 提升 10.42 分。
研究人员提出一种用于大语言模型多智能体系统(MAS)的两阶段能力感知自动编排框架,通过建模基座模型对当前任务的能力来动态调整角色激活与通信图。该方法在 6 个基准测试中取得 93.81% 的平均分。针对高能力基座模型,其将平均准确率从 87.22 提升至 89.97,同时降低 36.26% 的 token 成本;针对低能力基座模型,相比现有方法平均获得 4.58 分的额外提升。
研究人员提出 DP-MIND 框架,将差分隐私(DP)推理扩展至百万 token 级别的长上下文场景。该方案在本地扰动输入后按分块处理,利用紧凑内存保留跨序列的任务相关信息,并通过强化学习结合本地去噪模块提升抗噪能力与答案恢复度。在上下文长度达百万 token 级的多个长上下文评测中,DP-MIND 的可扩展性与效用均优于现有基线。
研究人员提出路网轨迹生成模型 Foresight,通过前瞻生成建模范式解决交叉路口转向选择难题。针对扩散模型等现有方法易偏离路网的缺陷,该模型构建了“预判-选择-更新-再预判”循环,将对未来路径展开的前瞻预判融入历史轨迹序列生成。实验表明 Foresight 表现优于现有 SOTA 基线。
研究人员提出多模态文档问答流水线 KnowForge,通过混合检索知识点索引、专职搜索的 Locator 智能体与专职解析图表文本的 Deep Reader 智能体实现分工协作。
研究团队提出首个针对大模型智能体高风险生物突变设计能力的综合基准 DRYLAB-Bench。该基准包含从生物安全指南提炼的 30 个危险设计场景,通过生物安全风险评分对比 ProteinGym 和 ViroGym 的 187,695 项湿实验实测数据进行安全验证。对 15 个前沿模型的测试表明,配备专业生物设计工具后模型的突变设计风险显著放大,最高风险区间占比上升至 23.5%。
研究提出一种黑盒因果测试方法,通过 CLAP 定位证据区域并进行频谱门控消融,用于审计大型音频语言模型(LALM)的对象幻觉。在固定持续时间下,局部消融在各测试组的表现均优于随机移除,且改进的对比解码将 Qwen2-Audio 准确率从 57.1% 提升至 71.9%。检测效果因模型而异,统一因果定位机制在 Audio Flamingo 3 等模型间无法直接迁移。
研究人员提出 VETR 框架,通过可执行世界表征实现符号图形推理的智能体递归自改进。该框架保留对齐的程序与渲染记录,利用执行细化器将运行时的写入与状态变化编译为受约束的替代程序,修复过程无需额外的语言模型调用。
研究人员针对 Jev 在 ALFWorld 具身任务与 AndroidWorld 移动端应用场景下的 5 个 AI 智能体开展了 4,500 次任务评测。结果表明,集成 Jev 大幅降低了所有 5 个智能体的单次决策成本与延迟,但在任务层面的收益因工作流而异。ALFWorld 任务成功率接近基线,而两个移动端智能体成功率显著下降,甚至有智能体因额外交互与恢复失败导致单次成功交付的平均成本不降反升。
研究人员提出了面向大音频语言模型的高效推理框架 SWEAR,通过互补的离线评估获取五维难度分数与压缩推理轨迹。该框架在监督微调阶段学习难度信号,并利用强化学习自适应分配各阶段的推理开销。在 MMAU-test-mini 和 MMAR 基准上的实验表明,SWEAR 在提升准确率的同时大幅减少了生成的 token 数量。
研究团队揭示了大语言模型的内部安全通路机制,证实注意力更新主要负责识别有害信息,而 MLP 更新则主导拒绝响应的写入。在涵盖 Qwen、Llama 和 Gemma 的 18 对模型评测中,后训练显著增强了深层 MLP 的拒绝写入能力,且在推理模型中拒绝写入集中于回答起始阶段。
模型无关框架 LongHarness 通过状态化证据管理显式化证据与演进结论的交互,推进超 100M-Token 语料库上的智能体长上下文推理。
研究人员提出 ReTRAIL 框架,允许长任务 AI 智能体将环境状态回溯至早期节点,同时保留有效进展并继承已放弃分支中的探索经验。该框架采用 State-Anchored GRPO 结合分支推进奖励训练共享策略,在 MineSweeper、Sokoban、ALFWorld 和 ScienceWorld 四个交互基准上显著改善了单纯回溯可能导致的性能下降问题,相关代码已开源。
研究人员推出具身模拟评测基准 EmbodiedCLBench,旨在以组合泛化为核心原则,评估自进化具身智能体通过积累并重组基础任务技能来解决复杂未见任务的持续学习能力。实验显示,基础任务经验能持续提升高级任务表现且在复杂度增加时保持稳定,但该提升无法随学习样本数量扩展,现有智能体尚无法从额外经验中提取有效信息。相关代码与数据集已开源。
研究提出 LQET 训练方法,使大语言模型能依据证据溯源谱系而非报告数量更新信念。在受控二元基准中,LQET 在千问(Qwen3-4B)与 Phi-4-mini 上将新证据更新 RMSE 降低 41-44%,8 步中继后的对数几率漂移降低 89-91%。该收益在闭环模拟中同样成立,确保模型信念变化取决于新证据而非内容重复次数。
研究人员提出了一种可扩展的赋能(Empowerment)最大化方案,通过将赋能对应为状态下可执行技能的数量,引导智能体到达适合开启多种技能的起始状态。该方法适用于任意底层技能学习算法,突破了以往仅限表格环境的限制,实现了资源收集、环境改造与生存等理论特性。实验显示赋能最大化可涌现出在 Crafter 中建房子等行为,相关代码与网站已公开。
研究提出后验结构化建议蒸馏(HSAD),通过训练轻量顾问模型根据输入生成结构化建议,以引导冻结的执行者 AI 智能体。在金融基准 FrontierFinance 上,一个 8B 顾问模型将 Samaya 专有研究智能体的达标率从 52.9% 提升至 56.6%,单次查询成本降低 37%。
一项基于 45,000 件美国专利的研究对比了双曲与欧氏变分自编码器(VAE)在无监督专利权利要求分类中的表现。在 3,000 次查询的 top-10 结果中,双曲模型检索到真正跨类别现有技术的概率比欧氏模型高出 52%(18.76% 对比 12.34%),但与官方分类一致性较低(NMI 为 0.2392 对比 0.3206)。作者已开源包含 91 项自动化测试的完整实现。
研究人员提出 Work2Skill 框架,通过捕获人类桌面 GUI 操作经验来归纳可复用的 AI 智能体技能。该框架包含用于同步记录屏幕、键鼠操作与无障碍树的 WorkRecorder,以及首个包含 350 个完整演示的多模态数据集 WorkDemo-350。
研究者提出了连续查询生成范式 CQG-Single 与 CQG-AR,通过生成连续检索查询替代离散 Semantic IDs 的自回归解码,消除了有限束搜索带来的可达性限制与离散词表对齐问题。
研究人员推出多轮对话基准 SmartSalesBench,用于评估大语言模型销售智能体应对具备抗拒心理买家画像的表现。该基准涵盖 5 种智能体档案、12 种买家画像及跨 6 个价格档位的 15 款智能手机,支持长达 20 轮对话,并基于 RAG 完成了总计 13,680 场测试会话。评测体系包含 3 层共 9 项指标,结合了 LLM-as-judge 与人工评估。
研究人员推出 MathVis 评测基准,包含 512 个任务,用于评估大语言模型可视化前沿数学问题及图表辅助推理的能力。在严格评测中,GPT-6-Astra、Claude Fable 5 和 Gemini 3.1 Pro Preview 的 pass@1 分数分别为 31.25%、26.56% 和 22.85%。
研究人员提出一种基于不确定性引导的渐进收缩框架,通过围绕中间推理状态构建蒙特卡洛推理树揭示过程级不确定性,将监督与优化聚焦在最具学习价值的轨迹上。该框架先将语料收缩为紧凑的教师数据池,再在 SFT 期间根据学生模型状态进行在线路由优化。实验显示该方法仅需全量数据 SFT 0.22% 的优化预算(训练暴露减少超 450x),即可保持甚至提升推理性能。
研究人员提出协同学习方法,通过构建异构协作模型并学习跨模型协同机制,解决单一大语言模型容易出现错误传播和推理盲点的问题。该方案利用模型切片在相近参数预算下将大模型拆为较小异构模型,并结合金字塔监督优化推理与交互决策。在多跳问答、数学推理、代码生成及开放式约束生成等任务中,该方法性能媲美或超越原大模型与主流多智能体基线,同时推理效率更高。
研究提出 Language as Supervision(LaS)框架,通过将神经特征与自然语言类别描述对齐来解码神经活动。在涵盖视觉、运动和语音解码的 7 种编码器架构测试中,LaS 相比类别标签监督基线将语音解码准确率最高提升 17.15 pp。该表征还支持候选集复用与受试者适应,并在稳态视觉诱发电位(SSVEP)中实现了条件未见频率解码。
一项研究探讨了 AI 导购助手介入下的零售选品规划,构建了结合确定性与 Plackett-Luce 随机排序的消费者选择模型。实验表明,零售商若忽视 AI 介入会导致平均收益损失 2.52% 至 11.37%,而仅基于拟合 AI 效用排序的确定性插件表现更佳,平均损失最多仅 0.53%。此外,研究证明了在确定性介入下,选品优化问题支持完全多项式时间近似方案(FPTAS)。