跳到正文

#推理

今日 1 条
10月3日周六
  1. arXiv cs.LG44

    Hermes:学习上下文推理释放测试时扩展能力

    研究团队提出测试时扩展控制框架 Hermes 及两阶段训练框架 Hermes-Learn,将跨上下文窗口分配与信息复用的决策权交给模型本身。Hermes-Learn 能够弥补较小开源模型利用额外推理算力的不足,使其掌握随问题与推理进度自适应的上下文推理策略。该能力可跨模型与评测基准泛化,并外推至训练未见过的推理计算规模。

  2. OpenAI News37

    GPT-6 系列模型指南

    OpenAI 面向初创企业提供 GPT-6 系列模型使用指南。内容涵盖如何挑选适配的 GPT-6 模型、调节推理力度(reasoning effort)、优化提示词与技能(skills),并指导如何协同工具以构建面向生产环境的工作流。

10月2日周五
  1. Scientific American66

    全球数学家为 Epoch AI 列出 50 个重大未解数学难题

    全球数学家应 Epoch AI 邀请联合评选出 50 个高难度前沿数学难题,核心要求是所有题目的解法必须能够被程序自动验证,用作评估 AI 前沿推理能力的基准。该清单涵盖代数、拓扑、数论等领域,包含三个立方和问题、孤独跑者猜想与琼斯平结猜想等经典挑战。截至 9 月已有部分题目取得进展,其中关于委员会选举公平性的核心问题已被人类研究人员借助 AI 与 Lean 证明助手共同攻克。

  2. MIT Technology Review · AI65

    AlphaGo 核心成员 Thore Graepel:别被大语言模型具备推理能力的表象迷惑

    AlphaGo 核心成员 Thore Graepel 发文指出,当前大语言模型的思维链本质仍是基于自回归的模式补全,并未引入独立的推理机制。他表示大模型目前存在缺乏可检查认知状态、知识与推理逻辑交织在权重中以及思维链常为事后编造三大缺陷。Graepel 主张借鉴 AlphaGo 的搜索与评估架构,构建具有显式认知状态与证据检验能力的全新推理系统。

  3. arXiv cs.AI35

    ABDA-NL:面向论辩推理的自然语言场景探索器

    ABDA-NL 为基于 ASPIC- 知识库的论辩系统 ABDA 引入了自然语言界面,允许用户以纯英语编写事实与规则并探索假设情景。系统借助大语言模型回答文档问题并将自然语言编辑转化为候选形式化陈述,核心论据生成与状态判定仍由确定性的 ABDA 引擎负责,且模型提议须经用户验证确认后生效。

  4. arXiv cs.AI39

    OSCAR 框架:运筹优化建模中的大语言模型梯级路由机制

    研究者提出运筹优化建模框架 OSCAR,通过离线模拟器验证决策并在多款大语言模型间执行梯级路由搜索。在 5 个基准问题上,OSCAR 仅采用两款可单 GPU 本地部署的小型开源权重 LLM 即可达到 95% 至 100% 的准确率,且平均 token 成本显著低于 Codex 与 Claude Code(二者成本分别是 OSCAR 的 3.1 倍和 5.8 倍)。

  5. arXiv cs.AI28

    企业表示简化(ERS):降低企业级 AI 的表示复杂度

    研究提出企业表示简化(ERS)方法与跨状态评估模型 ERC,旨在保留关键信息的同时降低企业级 AI 的表示复杂度。ERC 从表示对象、交互、行为和支撑来源四个维度量化任务级与表示级复杂度,明确区分架构简化与检索优化。降低任务级 ERC 可减少 AI 关联与解释负担以提升推理准确率,并配套经济模型评估维护与转换成本。

  6. arXiv cs.AI35

    基于本体与推理机验证的科学 AI 大语言模型推理评测基准

    研究者提出一种从 OWL 2 本体自动生成多选题基准的流程,干扰项经 OWL 推理机形式化验证,用于评测大语言模型的科学逻辑推理能力。该流程在 Pizza、PMDco 和 DOID 本体上分别生成 112、2,491 和 15,216 道题目。对 6 款大语言模型的零样本评测显示准确率为 41.1% 至 76.8%,体现出高挑战性与区分度。

  7. arXiv cs.AI29

    面向规范引导决策的简易信念道义逻辑

    研究提出一种面向规范引导决策的简易信念道义逻辑,结合 Chellas 极小道义逻辑片段、显式条件规范与多智能体 KD45,支持规范依赖智能体对事实及规范的信念。基于该逻辑定义的信念规范依从优化问题旨在最小化加权规范违背,并区分了主观优化与客观优化。研究进一步给出了二者一致的条件,且最优决策可在多项式时间内归约至加权偏 MaxSAT 求解。

  8. arXiv cs.AI33

    JevSpawn:通过组合动作空间实现自适应智能体推理

    JevSpawn 提出一种将自然语言任务规范与有限概率探索相结合的组合策略,以解决大语言模型智能体逐 token 生成推理和动作过慢的问题。该方法通过并行动作生成、反馈驱动的分支选择及共享前缀减少重复计算,无需额外训练。在 8 个基准任务对比 7 个智能体基准与 TypeSafe Jev 变体的测试中,JevSpawn 实现了更优的任务表现与更快的导航速度。

  9. arXiv cs.AI35

    用国际象棋评测大语言模型的提示词优化

    研究人员推出基于 1,118 道 Lichess 残局的国际象棋基准,用于评测 6 种自动提示词优化(APO)算法在 8 个大语言模型上的表现。评测中最强的 Gemini 3.5 Flash 解题率仅约 55%,基准可测试优化提示词跨模型迁移及棋局实战的效果。该基准支持题目动态更新防污染,完整运行成本约 $800,相关代码与题目集均已开源。

  10. arXiv cs.AI45

    大语言模型(LLM)的数学迁移更依赖推理方法而非主题

    大语言模型(LLM)数学微调的能力迁移主要取决于解题思路而非知识主题,同推理方法训练的效果显著优于同主题。在 5 个基座模型全部 40 组对比中,同推理方法相比同主题的模型级优势在两项实验中分别达 8.2 至 16.2 与 12.0 至 16.0 个百分点。尽管同主题样本在 embedding 和词汇相似度上更高,实际数学迁移仍由解题思路主导。

  11. arXiv cs.AI34

    刻画推理时 PRM 剪枝片段嫁接失效配置:来自三款推理大语言模型的证据

    研究表明,推理时跨轨迹步骤迁移机制 PPFG 在 Qwen2.5-7B-Instruct 等三款模型及六个基准上,与独立并行 CoT 统计表现完全等价。对 322 次停滞规则注入事件的分析显示,仅 14% 命中真正受阻的链,其余多落在已成功或接近完成的分支,后验上限显示其单题增益仅 +0.13 pp。

  12. arXiv cs.AI36

    角色分工型问答中推理理由传递了什么?一项消息干预研究

    一项针对角色分工型问答的消息干预研究发现,推理器向验证器传递忠实理由几乎不提升答案准确率,但损坏理由会严重干扰支持度判定。在 DeepSeek 测试的 400 个样本中,损坏理由导致支持度判定产生 10% 至 55% 的偏移,而最终答案仅改变 2% 至 30%。人工审计显示模型接受的损坏理由中有 9/10 被人类拒绝或标为不明确。

  13. arXiv stat.ML44

    压缩语言模型中散度如何转化为决策翻转

    研究发现全变差(Total Variation)而非 KL 散度能直接对应压缩语言模型的决策翻转率,在 19 个开源模型的 802 个测试副本中二者比值中位数达 1.05。当模型间翻转率差异达 10% 以上时,KL 散度判断失准的概率为 11%,而全变差仅为 1%。在 vLLM 推测解码中,全变差无需特定任务校准即可预测贪婪草稿接受率,平均相对误差仅 1.1%–2.4%。

  14. arXiv stat.ML33

    RACE:用于邻域丰富时间序列基础模型预测的残差感知测试时自适应

    研究人员提出两阶段时间序列预测框架 RACE,无需修改模型骨干即可在测试时利用历史邻域序列进行残差修正。框架先对齐并聚合邻域残差以生成免训练修正 RACE-TF,再通过轻量领域 Gate 判定修正时机。在 4 个 TSFM 上的实验显示其指标全面提升,且 Gate 无需微调即可跨骨干迁移,在全部 72 项跨骨干对比中均优于冻结基线。

  15. arXiv stat.ML34

    针对非完美扩散模型的误差校正推理期缩放方法

    研究提出基于能量的费曼-卡茨校正器(EBFKC),用于解决非完美扩散模型在推理期缩放中的路径跟踪误差与终点不匹配问题。该框架基于费曼-卡茨动力学,利用带方差控制引导的序贯蒙特卡洛实时校正误差并补偿目标能量偏差。在粒子系统与丙氨酸多肽实验中,该方法在退火和奖励倾斜下紧密匹配目标分布与分子自由能分布。

10月1日周四
  1. Apple ML Research46

    RLTL;DR:通过内化自生成反馈实现自我改进

    强化学习方法 RLTL;DR 通过让模型在失败后生成单条 TL;DR 洞察并内化映射,实现无解题示例下的自我改进。在 Pass@128 = 0 的高难任务中,该方法使 Qwen 3.5 9B Thinking 的 Pass@1 从标准 GRPO 的 0%–1% 提升至评测无洞察时的 12%–13%。仅用 4k 个(任务, 洞察)元组训练的 SFTL;DR 也几乎复现了全量 rollout 的性能。

  2. 量子位80

    谷歌发布新一代旗舰模型 Gemini 4 Argon

    谷歌发布新一代旗舰模型 Gemini 4 Argon,支持最高百万 Token 输出上限,并在 DeepSWE 等多项长期软件工程基准中取得领先表现。该模型主打防御性网络安全与深度推理任务,每百万输入和输出 Token 价格分别为 2 美元与 10 美元。目前模型仅通过 Fairwind 计划面向受信任的防御团队开放,尚未向普通订阅用户全面推送。

    推荐理由:报道汇总了该模型在多项基准测试中的表现与定价,读者可以参考其在长输出与防御性网络安全场景中的实际定位。

  3. 量子位61

    何恺明团队提出纯视觉推理方案NAT-ARC,利用自然图像预训练攻克ARC挑战

    何恺明团队提出纯视觉ARC解题方案NAT-ARC,通过ImageNet自监督预训练的MAE模型初始化编码器,在不依赖大语言模型的情况下使单模型ARC-1的pass@2达到63.4%,集成模型达到70.2%。研究表明自然图像的物体分割与连通先验可天然迁移至抽象格子推理,成功打破了纯视觉模型容量增大时的过拟合瓶颈,仅用约2B总参数量即逼近8B专用语言模型系统的水平。

  4. The Decoder76

    AI 系统 Ataraxos 击败西洋陆军棋顶尖人类选手

    研究团队开发的 AI 系统 Ataraxos 在西洋陆军棋中以 85% 的有效胜率击败历史顶尖人类选手 Niemeijer,攻克了这一拥有超 10^33 种初始布局的不完全信息棋类项目。该系统完全依赖自我博弈与正则化训练,并结合预测对手隐藏棋子的信念网络,仅花费不到 8000 美元算力成本。相关方法在花火与斗地主等隐藏信息游戏中也刷新了基准记录,目前代码已对外开源。

    推荐理由:研究展示了通过正则化和轻量信念网络在极高隐藏信息博弈中降低计算开销,为不完全信息决策提供了高样本效率的参考路径。

  5. The Decoder77

    OpenAI 称已拦截推理过程窃取行为,但研究显示该手段在 Azure 上依然生效

    OpenAI 宣布封禁了超过 15000 个涉嫌通过跨会话解密窃取模型链式推理的账户,并指相关核心活动关联至月之暗面相关人员。然而研究团队测试发现,尽管 OpenAI 与 Anthropic 官方 API 已封堵该漏洞,但相同攻击在 Microsoft Azure 上依然能成功提取包括 GPT-6 Astra 与 Sonnet 5 在内的模型思维链。

    推荐理由:研究展示了通过云端第三方接口绕过多层保护窃取模型链式推理的技术细节与平台漏洞。

  6. arXiv cs.AI38

    面向长程智能体任务的 Consistent Plan-Act(ConPAct)

    针对规划器与执行器分离导致的协调失败问题,研究团队提出面向长程智能体任务的 ConPAct(Consistent Plan-Act)框架。该方法通过检测并向双方反馈状态矛盾以构建一致状态解释,并在精选交互数据上微调 AI 智能体以强化协作。实验显示,在 MiniGrid 中分别以 GPT-5.6-sol 和 terra 担任规划器与执行器时,任务成功率从 38.6% 提升至 54.4%。

  7. arXiv cs.AI34

    通过推理外化实现大语言模型股票回报预测的忠实叙事

    研究提出一种结合时间 SHAP 解释与历史类比的大语言模型股票预测叙事框架,通过逐步外化推理提升解释忠实度。在 Qwen3 模型上的对照实验显示,数值与关系推理外化使 Qwen3-32B-Instruct 的证据忠实度从 0.696 显著提升至 0.996。此外,引入历史状态类比虽未改善自动化忠实度,但在人工评估中获得了更高的实用性评分。

  8. arXiv cs.AI52

    大语言模型在上下文变化时的信息更新失败机制研究

    研究团队提出 CICM 基准探究大语言模型在上下文信息更新时的陈旧绑定问题,发现前沿推理模型也会因注意力漂移而错误调用旧信息。探测实验表明模型内部依然保留着更新后的值,但多个旧值的注意力累加会超过当前值导致提取失败;研究据此提出无需额外训练即可重定向注意力的方法,在保留原本正确答案的同时修正了多数旧值错误。

  9. arXiv cs.AI35

    OpenJev-RLCD:面向推理模型的可校准决策强化学习实现

    研究者推出 OpenJev-RLCD,针对推理模型过度自信问题实现了一种基于严格真评分规则的可校准决策强化学习(RLCD)方案。该方法采用“先校准后强化”的两阶段训练策略,解决策略优化中的噪声与推理失效问题。在 Qwen3-1.7B 评测中,RLCD 准确率持平或超越 SFT 与 GRPO,并在选择性预测上击败所有对比基线,相关代码已开源。

  10. arXiv cs.AI46

    面向 LLM 多路径推理的分集合并方法

    研究人员将 LLM 多路径推理形式化为无线通信中的分集合并问题,解释了自洽性(SC)采样收益饱和的内在机制。在 5 个模型与 12 个基准测试中,提示词模板多样性在 57 组测试中的 55 组降低了路径相关性。团队据此提出的 Adaptive-K 规则通过 4 路径引导测试,在 Math、QA 和 NLU 任务中保留了 MV@K=32 准确率的 96%–103%。

  11. arXiv cs.AI44

    当推理偏离正轨:大推理模型失控推理的注意力动态机制分析

    新研究提出针对大推理模型(LRM)的推理状态分析框架 RADAR,将模型生成过程划分为四种状态,以实时识别冗余验证与生成死循环等失控推理现象。时序分析显示,失控推理的注意力分布偏离在表层文本重复出现前即可被检测;通过 Attention Realignment 纠正异常注意力分布,可在基本保留正常推理性能的同时有效减少死循环。

  12. arXiv cs.AI35

    GraphCert:利用认证证据评分标准自举智能体图推理

    GraphCert 提出了一种利用认证证据评分标准自举智能体图推理的后训练方法。该方案通过 Bootstrapped Graph Quizzer 生成并认证图 QA 对及支持证据,在 GRPO 训练中同时奖励 Graph Solver 的证据对齐与答案正确性。在 GRBENCH 的 5 个领域测试中,其表现优于更大规模的 LLM 智能体并具备跨图迁移能力,代码将开源。

  13. arXiv cs.AI34

    PathAnchor:面向科学 AI 智能体的路径结构化证据系统

    科学推理系统 PathAnchor 通过检索源关联的“材料-传感器-信号-系统”路径结构化轨迹,解决科学 AI 智能体的证据混淆与功能顺序丢失问题。在 120 道柔性传感器问题评测中,PathAnchor 取得 82.6% 得分并领先 6 个受评系统;在 6 次工具调用预算下,该方案将来源召回率从 61.3% 提升至 82.9%,全引证答案比例增至 90.0%。

  14. arXiv cs.AI35

    测试时数学推理中的预算边界效应研究

    测试时数学推理在 token 预算耗尽时,允许推导完成(advisory)比严格截断(strict)具有显著边界效应。基于 AIME 等题目的 19,200 条轨迹回放显示,4k cap 下 advisory 策略主要通过减少弃答提升准确率,strict 则为空白前缀浪费了计算成本;此外提高候选覆盖率未必能提升准确率,32k cap 下同上限多数投票准确率差异缩小至 1.3 个百分点以内。

  15. arXiv cs.AI34

    Concept-Grounded Attention:图注入注意力、时间版本与认识状态的对照评估

    概念扎根注意力(CGA)对照评估表明,图注入注意力的大部分增益仅源于模型新增容量,而显式时间与认识状态表示可带来实质提升。在 LongMemEval 评测中,显式时间表示使最高 122B 参数模型的回答准确率提升 13 至 25 个百分点。认识状态机制还将 72-122B 模型的无支持断言率从 19-68% 降至 0-5%,微调小模型降至 0.1%。

  16. arXiv cs.AI44

    大语言模型研究:当科学矛盾在语言转述中失真

    研究显示直接给出约束条件时 GPT-5.6 Sol 与 Claude Opus 5 识别最优支持赋值的准确率达 90% 和 96%,但转化为科学散文后表现明显分化。Claude Opus 5 易偏向生物学先验预期,在移除偏好并加入形式化与显式配对提示后识别率从 27% 升至 92%(p<.001),而 GPT-5.6 Sol 对此调整并不敏感。

  17. arXiv cs.AI35

    基于扩散模型的创意国际象棋谜题条件生成

    研究人员提出一种基于掩码扩散模型的创意国际象棋谜题条件生成方法,支持以特定战术主题和局部棋盘局面为条件。该方法引入最佳着法预测辅助任务并采用基于 DDPO 的强化学习优化,使解法唯一性提升 11.6%,唯一且符合主题局面的产出率提升 89.1%。此外,研究团队还发布了首个用于国际象棋谜题生成的开源权重模型。

  18. arXiv cs.AI36

    ArgGYM:面向结构化可废止推理的程序化引擎验证基准

    研究人员推出 ArgGYM,这是一个面向结构化可废止推理的程序化基准与兼容 RLVR 的训练环境。它将推理拆解为 12 项任务并通过符号论证引擎进行形式化状态验证打分,包含跨 15 种课程配置的 1,440 个固定验证实例。该基准、生成器和验证器均已开源,支持动态生成新样本以降低对静态测试集的依赖并用于强化学习训练。