DocPilot：面向长视觉文档理解的交互式智能体编排与训练框架
研究人员提出长视觉文档理解智能体框架 DocPilot，通过页面级导航、细粒度证据定位、局部视觉检查与代码数值推理实现多模态理解。该框架采用课程智能体训练，可将复杂文档处理能力迁移至小型模型。评测显示其在前沿 VLM 上表现提升显著，4B 参数的 DocPilot-4B 性能可抗衡更大规模模型，相关代码已开源。
#推理
#推理
今日 1 条arXiv cs.AIAI 评分3535 arXiv cs.AIAI 评分3535 用于多智能体聚合的偏见控制与注入方法
研究人员提出一种用于大语言模型多智能体推理的测试期聚合框架，通过偏见控制与注入解决智能体分歧时的决策信任问题。该框架无需验证数据或模型强弱先验知识，通过风格归一化控制偏见以改善初始答案选择，并通过将聚合智能体的初始答案置于少数派来注入偏见以引出决策不稳定性作为可靠性信号。在 3 个数学推理基准和 4 种异构大语言模型组合上，该方法平均准确率和 token 效率均优于同类非预言机聚合方法。
arXiv cs.AIAI 评分3636 思维密度：预测并引导大语言模型的链式推理
研究人员通过 LP variance 和 Caveman 压缩比两项指标衡量大语言模型 CoT 推理步骤的信息密度，发现较低的 LP variance 可预测 SFT 模型的正确率，但在 RL 蒸馏模型中该关系发生反转。
arXiv cs.AIAI 评分4949 延长思考如何让推理模型字面化理解 Some 与 Or
延长思考时间会导致多数开源推理模型及 GPT-5 将 some 和 or 转化为严格字面逻辑，从而取消“部分而非全部”等日常语用含义。推理链路追踪显示，模型会先产生日常解读但在后续思考中将其取消，而间接回答等上下文推理能力则有所提升。研究指出在思考早期截断并作答，可在不损失字面准确率的前提下恢复这些日常隐含意义。
arXiv cs.AIAI 评分3434 用于语言模型同策略蒸馏的条件对比外推方法 CCE-OPD
研究者提出条件对比外推同策略蒸馏（CCE-OPD），通过掩码题目条件与对数概率对比重权化教师分布，解决学生生成前缀下教师模型误判违规推理的问题。在 200 个诊断推理状态下，该方法将偏好无效后续的比例从 27.0% 降至 16.0%。
arXiv cs.AIAI 评分4949 隐式思维链真的在推理吗？统一的隐式推理分类框架
新研究通过涵盖 3 种训练方案、3 项推理任务与 2 个骨干模型的 21 种配置，系统评估了隐式思维链是否真正参与推理。实验表明逻辑任务中 COCONUT 答案常在链启动前已可读且删除链对预测几乎无影响，而算术任务均依赖链内容，证明可读隐状态本身不足以证明推理发生。研究据此提出了区分链表征内容与模型实际使用方式的统一分类框架。
arXiv cs.AIAI 评分4141 部分可观测环境下 LLM 规划承诺研究
研究探讨了 LLM 规划智能体在部分可观测环境下，对长计划（激进）或仅基于已观测状态（保守）进行规划承诺的权衡表现。在 3 个 LLM 及 2 个领域的测试中，两种策略准确率相当：保守方法失败尝试更少但消耗更多 API 调用，激进方法调用更少却在先验不可靠时极易失败。团队进一步提出了支持超参数调节的混合策略，以平衡规划的安全性与效率。
arXiv cs.AIAI 评分4040 StepSafe：通过上下文感知安全推理实现适时干预
研究人员提出了结合 ASPO 训练框架的步级推理安全护栏 StepSafe，通过前缀级阶段对齐与自适应反馈自蒸馏实现适时干预。该方案在每一步引入违规分类体系和干预窗口，并利用自进化多智能体红队测试扩展数据。StepSafe 在 5 个智能体安全基准上达到开源护栏 SOTA，其 4B 模型的 Youden's J 指标达 53.0（对比 46.2）。
arXiv cs.AIAI 评分4242 LEV：基于循环决策模型的快深兼备思考架构
研究提出决策模型 LEV，通过在循环中重跑网络层代替生成 token，让单组权重检查点可在任意计算深度回答问题。在 JevBench 基准上，2.6B 规模的 LEV 准确率从深度 1 的 63.2% 提升至深度 4 的 76.2%，配合小型终止器按需设定深度可节省 15% 至 24% 的计算量。
arXiv cs.AIAI 评分2626 基于 ASP 的移动物体前瞻常识框架：面向交互轨迹的预测推理
研究人员提出了一个用于复杂动态环境中交互运动前瞻推理的通用声明式框架，在语义层面构建可解释的时空心智模型以指导底层运动计算。该方法结合了表征交互运动轨迹动态的 ASP 模型、推导分支轨迹未来的语义引导预测，以及评估和过滤预测的能量优化模型。在 Argoverse 2 基准测试中，每个生成的预期轨迹都带有明确且可检查的事件级假设。
arXiv cs.AIAI 评分3838 用于评估器引导测试时推理的置信度校准推理扩展
研究人员提出一种计算感知的置信度校准三动作控制器，将评估器引导的推理建模为不确定性下的资源分配问题。在保留的宽度扩展与修订任务中，该控制器比校准选择的固定策略分别减少约 30% 和 16% 的归一化在线计算量，同时提升了效用。在基于 Qwen3-8B 的四个随机种子的实验中，其计算量均低于拟合 Q 方法，效用表现接近。
arXiv cs.AIAI 评分4444 自主拓展 DSL 的自我改进 AI 智能体：面向精确问答的无 Oracle 算子归纳
研究人员提出一种无需奖励、裁判模型与标准答案的自我改进 AI 智能体，通过冻结模型在领域特定语言（DSL）上运行双层嵌套循环拓展计算能力。内循环通过双表达式一致性将可回答问题集扩大约 3 倍，外循环基于守恒定律准入新算子并成功拦截全部 138 种错误算子变体。该机制在商业账本和临床问诊领域将可回答集分别提升逾 10 倍与近 20 倍，且能跨模型族泛化。
arXiv cs.AIAI 评分4848 当推理轨迹与证据冲突：答案配置如何影响大模型对证据的遵循
研究发现将模型作答配置从思维延续改为独立调用，能显著提升大模型在推理轨迹与证据冲突时对当前证据的遵循度。在 HotpotQA 和 MuSiQue 基准上，gpt-oss、Gemma4 和 Qwen3 的独立作答调用比延续思考的证据遵循度高出 29.9 到 60.6 分。分析表明轨迹最后一行承载了大部分价值，重新推理能促使模型在多数冲突中遵循当前证据。
arXiv cs.AIAI 评分3737 开放世界 AI 的三大核心要求研究
开放世界 AI 研究提出应对未知任务的三大核心要求，包括推理期学习、保留超越独立同分布泛化所需的丰富表征，以及实现输入输出对齐的预测性解耦。理论同时预测了具备一致内部学习器以及跨相关任务长上下文的重要性。在高达 8B 参数的语言模型测试中，满足要求的模型随相关任务数据累积而提升，不满足的模型则会出现性能退化，且无法通过模型规模或层类型交错来弥补。
arXiv cs.AIAI 评分3333 L2G-SR：通过学习引导基于 LLM 的符号回归
研究人员提出基于大语言模型的符号回归框架 L2G-SR，利用学习到的结构验证器辅助数值误差来引导公式搜索。该框架利用树编辑距离（TED）构建结构监督信号，由分析器结合验证器反馈与诊断工具提出修改建议，再交由生成器转化为优化后的表达式。在基准测试 LLM-SRBench 上，L2G-SR 在数值拟合、公式级准确率及 TED 指标上均达到 SOTA。
arXiv cs.AIAI 评分4141 IneqAgent：结合符号计算在 Lean 中实现智能体不等式证明
研究人员提出 IneqAgent，这是一个将大语言模型推理与符号计算相结合的智能体框架，用于在 Lean4 中进行不等式证明。它利用引理级蒙特卡洛树搜索协调引理构建与后端选择，并借助平方和、Bernstein 等符号后端生成证明凭证。结合 DeepSeek-V4-Flash 时，该方法在 4 个基准测试中解决 186 道题目中的 175 道（94.09%），以更低的平均推理成本取得了最高总成功率。
arXiv cs.AIAI 评分5555 研究提出 AlphaDiana：用于可验证推理任务的 Agent 度量系统
研究团队推出 Agent 度量系统 AlphaDiana，针对可验证推理任务，解耦数据集、Agent、环境与评分模块，支持对工具、技能和记忆组件进行微观干预评测。
arXiv cs.AIAI 评分3737 VISTA：基于价值修剪调度加速离散扩散模型中的顺序蒙特卡洛引导
研究者提出免训练方法 VISTA，能在固定预算下自动选择离散扩散模型中顺序蒙特卡洛（SMC）引导的时间步。该方法利用少量全引导预热生成的价值统计数据，通过动态规划精确优化经验代理目标，选定调度后每代引导复杂度与其他同预算稀疏调度一致。在毒性文本生成实验中，VISTA 在获得 0.99 独立毒性比率的同时，将单次生成延迟从 204.23 s 降至 38.16 s，实现 5.35x speedup。
arXiv cs.AIAI 评分4747 基准饱和后的模型能力评估方法
研究表明在基准测试分数饱和后，大模型正确解答任务的完整记录（transcripts）仍保留着超越准确率的能力信息。在评估的提取方法中，成对评审（pairwise judging）表现最佳，相比仅使用饱和分数的基线将预测误差降低了 5.3 倍，相关信号主要集中在推理和工具调用等环节。不过该预测能力在面临分布偏移时泛化受限，例如会低估 2025 年初推出的首批 reasoning model 的能力。
arXiv stat.MLAI 评分2828 基于模拟推断（SBI）中的扩散模型：教程与综述
扩散模型已成为基于模拟推断（SBI）的高效工具，依托基于分数的公式可从模拟和真实数据中快速准确估计潜在参数。该综述系统梳理了其在训练、推理与评估中的设计选择，涵盖引导机制、分数合成、流匹配及一致性模型等技术。此外，文章还分析了噪声调度和采样器对精度与效率的影响，并给出多维度案例与未来方向。
arXiv stat.MLAI 评分3333 测试时 LLM 集成中的两个样本量：带缓冲的 ERM 与极小化极大理论
研究针对测试时通过生成并聚合多个答案来提升大语言模型表现的加权集成方法，分析了带标签问题量 Q 与每个问题生成量 N 两个样本量的相互作用。在指数为 β 的间隔条件下，带校准间隔缓冲的经验风险最小化（ERM）可达到 Q^{-1/2} + N^{-β/2} 阶的超额风险。极小化极大分析进一步揭示了三种机制，并证明问题充足时超额风险存在 N^{-β} 的识别下限。
arXiv stat.MLAI 评分4242 RSHD：通过回溯反思蒸馏从全失败尝试中恢复监督信号
研究人员提出基于重放筛选的回溯蒸馏方法（RSHD），可在 GRPO 训练期间将失败推理转化为经测试的额外监督来源。该方法让策略在不接触参考答案的情况下针对失败尝试生成修正提示，并在重放成功率更高时将其蒸馏回原策略，从而从全组失败中恢复学习信号。实验表明，RSHD 在多个模型家族、尺寸及两个训练领域中均持续优于 GRPO，收益可泛化至域外评估集。
arXiv stat.MLAI 评分3737 条件均值流：面向基于模拟推断的少步密度估计
研究人员提出用于后验与似然估计的条件均值流（conditional mean flows），将少步采样与易计算的密度评估相结合。该方法通过独立掩码直接估计边际似然，在保持基于流的密度估计器灵活性的同时大幅缩短推理时间。实验显示，单步条件均值流密度评估的误差与 200 步 flow matching 相当，并使下游 MCMC 采样提速约 200 倍。
arXiv cs.LGAI 评分3636 兼容性至关重要：在线策略蒸馏中的 token 级教师选择框架
研究者提出了一个在线策略蒸馏（OPD）中的 token 级教师选择框架，通过在 rollout 期间动态路由教师来兼顾推理模式兼容性、教师能力与学生多样性。理论分析证明了不同教师路由方案在不同场景下对优化和多样性的优势。在数学、编程、内核生成和视觉推理等领域的实验表明，该方法在特定任务上的 pass@k 相比原生 OPD 及专家教师提升超过 10 个百分点。
arXiv cs.LGAI 评分2323 用于大语言模型算术推理的贝尔曼一致轨迹强化学习
研究人员提出一种用于大语言模型算术推理的贝尔曼一致轨迹强化学习方法，通过轨迹贝尔曼残差最小化（TBRM）将稀疏奖励转化为密集的 token 级信号。该框架结合 RLOO 分组策略与后验目标重标记，在稳定梯度方差方面显著优于 GRPO。
arXiv cs.LGAI 评分3737 视觉语言模型中的同策略知识蒸馏机制分析：学生模型如何继承教师模型的行为与缺陷
研究对比了视觉语言模型（VLM）后训练中的同策略知识蒸馏（OPD）与过滤 SFT，发现 OPD 会在学生模型访问的状态上同时继承教师模型的知识与失败模式。
arXiv cs.LGAI 评分3535 基于熵增采样与答案混合的递归离线知识蒸馏
研究人员提出一种结合熵增采样与答案混合的递归离线知识蒸馏方法，用于在无法完全访问教师模型内部表征时蒸馏推理链。该方法在 3-4B 开源模型上结合 70-72B 辅助中型模型按熵差采样推理链，并用单 token 真实答案补充思考轨迹。在相当的数据预算下，该方法平均得分达 57.15±1.01，优于原生知识蒸馏的 51.61，且展现出更陡峭的学习曲线。
arXiv cs.LGAI 评分5454 多数投票奖励为何能匹敌可验证强化学习
研究表明多数投票等自生成标签在强化学习中能逼近真实奖励效果，根本原因在于批次更新层面上跨提示词的标签错误缺乏方向一致性。实验测得单个提示词自身梯度占输出变化不足 1%，且多数投票与真实梯度的噪声校正余弦相似度在误差范围内为 1，随机翻转 30% 标签仍不破坏梯度方向。结果证明决定自生成标签能否替代验证的是错误一致性而非错误率，但真实奖励在最终准确率上仍具有局部优势。
arXiv cs.LGAI 评分4444 长上下文投机采样无需长上下文草稿模型
研究表明投机采样在超长上下文中无需训练长上下文草稿模型，冻结现有的短上下文草稿模型即可运行至 200 万 token。该方法通过在推理时限制草稿模型的注意力缓存并重置旋转位置编码索引，无需改动模型权重。测试涵盖 3 组目标与草稿模型对及 5 个语料库，单一 vLLM 配置即可跨越 4k 至 200 万 token 且保持短上下文下的加速比。
arXiv cs.LGAI 评分3737 在推理大语言模型中摊销序贯实验设计
研究人员提出通过信息增益奖励显式训练行动选择背后的推理过程，将序贯贝叶斯实验设计（BED）摊销到大语言模型中。该方法将实验生成模型与大语言模型自身信念解耦，在 Twenty Questions 基准上以显著更低的计算成本超越了训练期和推理期 BED 基线，并泛化到未见类别。研究还证实该策略能正向迁移至真实临床对话基准 Medi-Q。
arXiv cs.LGAI 评分3131 任务阶段条件下的专家路由不能作为 MoE FFN 张量量化敏感度的可靠代理指标
研究发现基于任务阶段的 MoE 专家路由统计量无法有效指导 FFN 张量的分层混合精度量化。研究团队针对 Qwen-3.6-35B-A3B 构建了路由分析流程并计算综合敏感度分数，但在约 4.0 bpw 和约 2.7 bpw 等预算实验中，路由指导的重分配均未能超越均匀量化基线。实验表明路由行为统计量并非层级真实量化代价的有效代理指标，激进预算下还会引发显著的结构性损失。
arXiv cs.LGAI 评分4040 用于可验证奖励离线强化学习的 Gibbs-Gap 策略优化（GGPO）
研究人员提出了 Gibbs-Gap 策略优化（GGPO），无需学习者与行为策略间的重要性权重即可在离线强化学习中训练大语言模型。实验表明，GGPO 在数学推理基准以及固定离线数据上均优于 GRPO 和 AGRO，并在策略过时度增加时保持性能稳定。消融实验显示，采用默认参考策略刷新调度的 GGPO 在五项基准问题加权平均分达到 46.58，远高于固定参考策略的 32.96。
arXiv cs.LGAI 评分3434 自适应深度下的保选择共形早退机制：实现免分布覆盖保证
研究人员提出一种路径式共形早退预测方法，无需 alpha/L 校正即可在自适应退出时提供选择安全的免分布覆盖保证。实验显示，在 8 个编码器任务网络组合中，该方法宏覆盖率达 0.901，而朴素层级选择仅为 0.814，平均集合大小为 1.41 且延迟比例降至 0.71。
arXiv cs.LGAI 评分3737 RoLaQ：针对多头潜在注意力中 2-Bit KV Cache 的联合旋转与范围校准
研究人员提出离线校准方法 RoLaQ，通过联合旋转与范围校准优化多头潜在注意力（MLA）架构下的 2-bit KV cache 压缩。在 3 个 MLA 模型和 6 项评测基准上，RoLaQ 在对比的 2-bit 方法中均取得了最高平均精度。
arXiv cs.LGAI 评分3333 TurboMamba：通过词汇记忆实现更快推理、更快训练与更佳预测的语言模型架构
研究人员提出大语言模型架构 TurboMamba，结合全局 Mamba-3 与小型 Transformer 块内预测以提升性能。在 FineWeb-Edu 评测中，TurboMamba 的平均测试 NLL 较 Mamba-3 降低 9.4%，端到端训练吞吐量达其 2.60x。在 32 批次推理测试下，其相较 Mamba-3 取得 3.12x 加速，并显著超越 Jamba 与 Zamba 变体。
arXiv cs.LG精选AI 评分7171 论文解析 RLVR 域外性能提升中有多少仅源于答案格式变化
研究表明基于可验证奖励强化学习（RLVR）报告的跨领域得分提升很大程度源于答案格式而非解题能力。在 4 组 7B SimpleRL 模型上，公开答案抽取器报告的域外多选题涨幅有 82% 在能兼顾正文答案的新抽取器下消失，本质是强化学习使模型学会把答案放进 `\boxed{}` 框内。
推荐理由：论文揭示了强化学习评测中答案抽取器造成的格式假象，为检验模型真实跨领域泛化能力提供了直接的复核方法。
arXiv cs.LGAI 评分3434 扩展注意力：通过泰勒级数实现固定循环状态数的线性时间 Transformer
研究提出将注意力机制的指数核展开为截断泰勒级数，将其因式分解并压缩为固定 $n$ 个循环状态，实现了独立于上下文长度 $N$ 的线性时间 Transformer。
arXiv cs.AIAI 评分3636 基于动作特异性信用分配的执行后学习
研究者提出“执行后学习”方法与动作特异性信用分配机制，将程序执行结果作为中间状态引入同一策略的训练。在 Image-to-TikZ 任务的 945 个留出样本测试中，该方法将单次调用渲染成功率提升至 92.70%，优于同等训练迭代下单阶段 GRPO 的 88.25%。该方法不仅增强了单次推理性能，还赋予了模型执行后修正能力，相关代码已开源。
arXiv cs.AIAI 评分3939 PsyMemBehav：基于心理学画像与记忆接地的两级身份到行为推理社交媒体模拟
研究人员提出 PsyMemBehav，通过两级身份到行为推理将心理学画像和检索记忆映射为平台行为，并构建了涵盖 Reddit、Bluesky 和 Twitter 上 5862 名用户共 5.57M 条行为的 PsyMemBehav-bench。
arXiv cs.AIAI 评分3838 SAT-RL：利用符号求解器训练大语言模型逻辑推理的强化学习框架
研究者提出强化学习框架 SAT-RL，通过多轮工具执行训练大语言模型与 Z3 等符号求解器交互，以解决复杂逻辑与约束推理难题。该框架结合了具有可验证解的合成数据生成、基于求解器增强轨迹的监督预热，以及带有工具感知奖励的求解器强化学习。实验显示，SAT-RL 在领域内和跨领域的逻辑任务上显著提升了工具辅助的符号推理表现，相关代码已开源。