跳到正文

#推理

今日 1 条
10月5日周一
  1. arXiv cs.AI48

    大语言模型在患者证据演变过程中表现出不可靠的临床判断更新

    最新研究表明,大语言模型在根据患者证据演变更新临床判断时表现不可靠,结合先前判断往往会增加而非减少预测误差。受控实验显示模型对恶化证据的反应强于改善证据,且先验风险从 10% 增至 90% 时会使估计偏移 26.2 个百分点。提示词无法修复该问题,而提出的 EVLU 方法虽能识别更可靠的修正,但存在可靠性与覆盖率的权衡。

  2. arXiv cs.AI38

    将教师 Token 用在关键处:基于成功参考的在策略蒸馏 SR-OPD

    研究人员提出成功参考在策略蒸馏(SR-OPD),利用学生模型自身的成功采样作为参考来筛选失败样本,大幅降低教师监督的计算开销。在 3 个教师-学生模型对和 6 个数学推理基准测试中,SR-OPD 在单轮设置下仅使用 Vanilla OPD 3.46%-5.02% 的教师输入 token,同时保持了相当的推理性能。消融实验进一步证实了聚焦成败并存样本及以成功引导失败筛选的有效性。

  3. arXiv cs.AI42

    学习下一步调查什么:面向长周期科研 AI 智能体的元推理架构 MIRA

    分层架构 MIRA 将长周期科研决策与执行解耦,由外层元推理器规划调查工单,内层执行器独立落地。该架构在定理证明与神经架构研究中提升了推理与算力分配效率,其生成式评判器的收益预测表现优于 token 级方案。在此基础上训练的 MIRA-AC 联合模型在 4 个自动科研环境中提升了最终表现,实现了长周期强化学习的高效优化。

  4. arXiv cs.AI36

    基于程序细化的假设引导认知算法发现

    研究团队提出一种基于程序细化的混合系统,利用 LLM 智能体协助发现人类推理的认知算法。该系统将人类构建的概率程序交由 LLM 智能体识别与行为数据的偏差,在预设约束下生成代码级修改,并交由概率推理模块计算数据似然。在问题解决实验中,修改后的模型拟合度持续优于前代模型,并提炼出刻画行为变异性的关键机制。

  5. arXiv cs.AI43

    热带强化学习(Tropical Reinforcement Learning)

    研究者提出热带强化学习及训练算法 TROPIC,通过将解方案概率相加改为取最大值的热带半环,使大语言模型能跨不同尝试拼接最佳步骤,解决组合推理难题。该方法将状态价值定义为最可能验证解的对数概率并记录显式路径;在 Sokoban、Countdown、FrozenLake 和 WebShop 任务中,TROPIC 超越最强 on-policy 基线达 16 个百分点。

  6. arXiv cs.LG34

    词典序多目标在线策略蒸馏(LMOPD)

    研究提出词典序多目标在线策略蒸馏(LMOPD),通过显式优先级路由与局部投影整合多专家策略,防止简洁性等次要目标损害模型正确率。在 30B-A3B MoE 模型的 3 个数学基准评测中,双专家设置下 LMOPD 完全保留了准确率与推理质量增益并取得 46.9% 的简洁性提升;四专家设置下保留约 90% 的核心能力增益,显著优于基线的约 57%。

  7. arXiv cs.LG34

    针对扩散草稿树的排序感知投机采样 RASS

    研究人员提出针对扩散草稿树的排序感知投机采样(RASS),通过对候选草稿排序并结合残差校正确保精确采样,以加速扩散生成。该方法在 FFHQ、CIFAR-10 及基于 COCO2014 提示词的 Stable Diffusion 3.5 上完成验证。在相同计算预算下,RASS 全面优于 D-GRS,在 CIFAR-10 上的采样效率增益约达 20%。

10月3日周六
  1. arXiv cs.LG34

    基于实例学习理论的能量模型元认知推理

    研究团队提出 MERITED 框架,结合实例学习理论(IBLT)与能量模型(EBM),实现了根据不确定性动态调控推理计算资源的元认知控制。该方法解决了大语言模型在生成前无法预估不确定性与动态分配算力的局限,并兼顾了计算效率。该工作已开源一个 191M 参数的推理 EBM 模型权重,并提供了动态算力分配的实现方案。

  2. arXiv cs.LG35

    基于方差缩减序贯蒙特卡洛的特异性感知扩散引导

    研究团队提出基于方差缩减序贯蒙特卡洛(SMC)的特异性感知扩散引导方法,解决预训练扩散模型在抑制负参考分布时破坏正分布重叠区的问题。该方法将特异性引导形式化为目标设计问题,通过极小化方差的 SMC 采样与雅可比向量积优化提升稳定性。在类别对比、文生图及肽-MHC结合物任务中,该方法显著减少了模式偏移与权重崩溃,代码已开源。

  3. arXiv cs.LG35

    基于最坏情况约束强化学习蒸馏大语言模型推理能力

    针对大语言模型推理蒸馏中学生模型逻辑有缺陷但答案侥幸正确的奖励黑客问题,研究者提出基于最坏情况约束强化学习的推理蒸馏方法。该方法构建了无需状态增广的约束 MDP,利用低方差策略梯度分解与奖励转换,对轨迹各前缀严格施加最坏情况硬约束。在数学推理与代码生成实验中,该方法在保持纯强化学习高答案正确率的同时显著降低逻辑违规,取得了最高的严格推理成功率。

  4. arXiv cs.LG46

    超越困惑度:抽象预训练对语言模型的持久影响

    新研究发现,在小型语言模型预训练初期仅将 1% 的 token 用于抽象堆栈操作任务,即可在模型困惑度相当的情况下,将 MUSIQUE 多跳问答 F1 最高提升 3.9 分,同时改善 HOTPOTQA 和 2WIKIMULTIHOPQA 表现。该热身训练显著加速了深层顺序推理链的习得,且该优势能在后续数十亿自然语言 token 训练中持续保持。

  5. arXiv cs.LG35

    LLM 推理中 Beam Search 的可证明测试时扩展性

    研究针对大语言模型(LLM)长程推理提出改进的置信度过滤束搜索(CF-Beam),为 Beam Search 的测试时扩展性提供理论保证。该算法将传统 Beam Search 的样本覆盖依赖从二次降至近线性,其主导搜索项仅随推理长度 $L$ 呈多项式级扩展,显著优于 Best-of-N 等指数级劣化的序列级推断方法。

  6. arXiv cs.LG34

    论同策略蒸馏中的异策略教师问题

    针对同策略蒸馏中教师面对学生生成前缀续写性能下降的异策略问题,研究人员提出了协同训练框架 SCOUT。该框架结合带可验证奖励的强化学习周期性优化教师模型,使其学习从学生前缀进行续写。实验表明,SCOUT 提升了教师在学生前缀下的续写能力,并在多种模型规模和推理领域中持续增强了同策略蒸馏效果。

  7. arXiv cs.LG35

    激活条件自蒸馏(ACSD)

    研究者提出激活条件自蒸馏(ACSD),通过对比自生成轨迹的激活提取导向向量指导学生模型,无需参考文本或更新教师参数即可提供密集推理监督。ACSD 在 5 个模型上均取得最高平均数学准确率;在 DeepSeek-R1-0528-Qwen3-8B 上,数学平均准确率达 71.9%,LiveCodeBench v6 pass@12 达 70.9%,均高于 OPSD 基线。

  8. arXiv cs.LG44

    Hermes:学习上下文推理释放测试时扩展能力

    研究团队提出测试时扩展控制框架 Hermes 及两阶段训练框架 Hermes-Learn,将跨上下文窗口分配与信息复用的决策权交给模型本身。Hermes-Learn 能够弥补较小开源模型利用额外推理算力的不足,使其掌握随问题与推理进度自适应的上下文推理策略。该能力可跨模型与评测基准泛化,并外推至训练未见过的推理计算规模。

  9. OpenAI News37

    GPT-6 系列模型指南

    OpenAI 面向初创企业提供 GPT-6 系列模型使用指南。内容涵盖如何挑选适配的 GPT-6 模型、调节推理力度(reasoning effort)、优化提示词与技能(skills),并指导如何协同工具以构建面向生产环境的工作流。

10月2日周五
  1. arXiv cs.AI35

    ABDA-NL:面向论辩推理的自然语言场景探索器

    ABDA-NL 为基于 ASPIC- 知识库的论辩系统 ABDA 引入了自然语言界面,允许用户以纯英语编写事实与规则并探索假设情景。系统借助大语言模型回答文档问题并将自然语言编辑转化为候选形式化陈述,核心论据生成与状态判定仍由确定性的 ABDA 引擎负责,且模型提议须经用户验证确认后生效。

  2. arXiv cs.AI39

    OSCAR 框架:运筹优化建模中的大语言模型梯级路由机制

    研究者提出运筹优化建模框架 OSCAR,通过离线模拟器验证决策并在多款大语言模型间执行梯级路由搜索。在 5 个基准问题上,OSCAR 仅采用两款可单 GPU 本地部署的小型开源权重 LLM 即可达到 95% 至 100% 的准确率,且平均 token 成本显著低于 Codex 与 Claude Code(二者成本分别是 OSCAR 的 3.1 倍和 5.8 倍)。

  3. arXiv cs.AI28

    企业表示简化(ERS):降低企业级 AI 的表示复杂度

    研究提出企业表示简化(ERS)方法与跨状态评估模型 ERC,旨在保留关键信息的同时降低企业级 AI 的表示复杂度。ERC 从表示对象、交互、行为和支撑来源四个维度量化任务级与表示级复杂度,明确区分架构简化与检索优化。降低任务级 ERC 可减少 AI 关联与解释负担以提升推理准确率,并配套经济模型评估维护与转换成本。

  4. arXiv cs.AI35

    基于本体与推理机验证的科学 AI 大语言模型推理评测基准

    研究者提出一种从 OWL 2 本体自动生成多选题基准的流程,干扰项经 OWL 推理机形式化验证,用于评测大语言模型的科学逻辑推理能力。该流程在 Pizza、PMDco 和 DOID 本体上分别生成 112、2,491 和 15,216 道题目。对 6 款大语言模型的零样本评测显示准确率为 41.1% 至 76.8%,体现出高挑战性与区分度。

  5. arXiv cs.AI29

    面向规范引导决策的简易信念道义逻辑

    研究提出一种面向规范引导决策的简易信念道义逻辑,结合 Chellas 极小道义逻辑片段、显式条件规范与多智能体 KD45,支持规范依赖智能体对事实及规范的信念。基于该逻辑定义的信念规范依从优化问题旨在最小化加权规范违背,并区分了主观优化与客观优化。研究进一步给出了二者一致的条件,且最优决策可在多项式时间内归约至加权偏 MaxSAT 求解。

  6. arXiv cs.AI33

    JevSpawn:通过组合动作空间实现自适应智能体推理

    JevSpawn 提出一种将自然语言任务规范与有限概率探索相结合的组合策略,以解决大语言模型智能体逐 token 生成推理和动作过慢的问题。该方法通过并行动作生成、反馈驱动的分支选择及共享前缀减少重复计算,无需额外训练。在 8 个基准任务对比 7 个智能体基准与 TypeSafe Jev 变体的测试中,JevSpawn 实现了更优的任务表现与更快的导航速度。

  7. arXiv cs.AI35

    用国际象棋评测大语言模型的提示词优化

    研究人员推出基于 1,118 道 Lichess 残局的国际象棋基准,用于评测 6 种自动提示词优化(APO)算法在 8 个大语言模型上的表现。评测中最强的 Gemini 3.5 Flash 解题率仅约 55%,基准可测试优化提示词跨模型迁移及棋局实战的效果。该基准支持题目动态更新防污染,完整运行成本约 $800,相关代码与题目集均已开源。

  8. arXiv cs.AI45

    大语言模型(LLM)的数学迁移更依赖推理方法而非主题

    大语言模型(LLM)数学微调的能力迁移主要取决于解题思路而非知识主题,同推理方法训练的效果显著优于同主题。在 5 个基座模型全部 40 组对比中,同推理方法相比同主题的模型级优势在两项实验中分别达 8.2 至 16.2 与 12.0 至 16.0 个百分点。尽管同主题样本在 embedding 和词汇相似度上更高,实际数学迁移仍由解题思路主导。

  9. arXiv cs.AI34

    刻画推理时 PRM 剪枝片段嫁接失效配置:来自三款推理大语言模型的证据

    研究表明,推理时跨轨迹步骤迁移机制 PPFG 在 Qwen2.5-7B-Instruct 等三款模型及六个基准上,与独立并行 CoT 统计表现完全等价。对 322 次停滞规则注入事件的分析显示,仅 14% 命中真正受阻的链,其余多落在已成功或接近完成的分支,后验上限显示其单题增益仅 +0.13 pp。

  10. arXiv cs.AI36

    角色分工型问答中推理理由传递了什么?一项消息干预研究

    一项针对角色分工型问答的消息干预研究发现,推理器向验证器传递忠实理由几乎不提升答案准确率,但损坏理由会严重干扰支持度判定。在 DeepSeek 测试的 400 个样本中,损坏理由导致支持度判定产生 10% 至 55% 的偏移,而最终答案仅改变 2% 至 30%。人工审计显示模型接受的损坏理由中有 9/10 被人类拒绝或标为不明确。

  11. arXiv stat.ML44

    压缩语言模型中散度如何转化为决策翻转

    研究发现全变差(Total Variation)而非 KL 散度能直接对应压缩语言模型的决策翻转率,在 19 个开源模型的 802 个测试副本中二者比值中位数达 1.05。当模型间翻转率差异达 10% 以上时,KL 散度判断失准的概率为 11%,而全变差仅为 1%。在 vLLM 推测解码中,全变差无需特定任务校准即可预测贪婪草稿接受率,平均相对误差仅 1.1%–2.4%。

  12. arXiv stat.ML33

    RACE:用于邻域丰富时间序列基础模型预测的残差感知测试时自适应

    研究人员提出两阶段时间序列预测框架 RACE,无需修改模型骨干即可在测试时利用历史邻域序列进行残差修正。框架先对齐并聚合邻域残差以生成免训练修正 RACE-TF,再通过轻量领域 Gate 判定修正时机。在 4 个 TSFM 上的实验显示其指标全面提升,且 Gate 无需微调即可跨骨干迁移,在全部 72 项跨骨干对比中均优于冻结基线。

  13. arXiv stat.ML34

    针对非完美扩散模型的误差校正推理期缩放方法

    研究提出基于能量的费曼-卡茨校正器(EBFKC),用于解决非完美扩散模型在推理期缩放中的路径跟踪误差与终点不匹配问题。该框架基于费曼-卡茨动力学,利用带方差控制引导的序贯蒙特卡洛实时校正误差并补偿目标能量偏差。在粒子系统与丙氨酸多肽实验中,该方法在退火和奖励倾斜下紧密匹配目标分布与分子自由能分布。

10月1日周四
  1. Apple ML Research46

    RLTL;DR:通过内化自生成反馈实现自我改进

    强化学习方法 RLTL;DR 通过让模型在失败后生成单条 TL;DR 洞察并内化映射,实现无解题示例下的自我改进。在 Pass@128 = 0 的高难任务中,该方法使 Qwen 3.5 9B Thinking 的 Pass@1 从标准 GRPO 的 0%–1% 提升至评测无洞察时的 12%–13%。仅用 4k 个(任务, 洞察)元组训练的 SFTL;DR 也几乎复现了全量 rollout 的性能。

  2. arXiv cs.AI38

    面向长程智能体任务的 Consistent Plan-Act(ConPAct)

    针对规划器与执行器分离导致的协调失败问题,研究团队提出面向长程智能体任务的 ConPAct(Consistent Plan-Act)框架。该方法通过检测并向双方反馈状态矛盾以构建一致状态解释,并在精选交互数据上微调 AI 智能体以强化协作。实验显示,在 MiniGrid 中分别以 GPT-5.6-sol 和 terra 担任规划器与执行器时,任务成功率从 38.6% 提升至 54.4%。