POETS：通过高效策略集成实现感知不确定性的 LLM 优化
POETS 提出了一种计算高效的策略集成 LLM 优化框架，通过共享预训练主干与独立 LoRA 分支直接捕捉认知不确定性，省去了繁琐的奖励模型训练流程。该框架在理论上近似累积遗憾界为 $O(\sqrt{T \gamma_T})$ 的 Thompson 采样，并在蛋白质搜索、分子设计及代码生成等强化学习任务中取得了 SOTA 样本效率。
#推理
#推理
今日 1 条arXiv stat.MLAI 评分3535 arXiv stat.MLAI 评分3838 学会被监控：CoT 可监控性的因果边界与干预感知后训练方法
针对大语言模型思维链（CoT）监控评估指标 $\mathsf{TPR_{mc}}$ 高估因果检出率的问题，新研究推导出互补下限以建立更严格的评估框架。研究团队进一步构建了对照-干预任务训练集，设计出基于离策略自蒸馏、强化学习和在策略自蒸馏的三种后训练方法。实验表明三种方法在多种配置下均普遍提升了模型的 CoT 可监控性，相关代码已开源。
科学网AI 评分3333 《科学》（20261022出版）一周论文导读
《科学》本期论文导读重点介绍了多智能体药物研发与语言模型序贯诊断等前沿成果。Virtual Biotech 框架由 AI 首席科学官调度多智能体以简化早期药物研发；诊断系统在《新英格兰医学杂志》病例与 MIMIC-IV-ED 上分别取得 83.2% 和 80.3% 准确率，优于全科医生。本期还涵盖了糖胖病无药物电催化治疗与二维金属等研究。
The Decoder精选AI 评分7676 三名被解雇的 OpenAI 安全研究员称从未被告知具体泄密内容
三名因涉嫌泄密而被 OpenAI 解雇的安全研究员公开否认泄露机密，并表示公司从未书面说明他们究竟不当处理了哪些具体信息。调查起因于外部安全机构对模型思维链推理透明度及 Astra 架构的关注，安保团队在研究员手机中查出与外部专家的 Signal 阅后即焚记录后将其解雇，但 OpenAI 坚称解雇与安全异议无关。受访研究员担忧此举会令员工噤声并阻碍独立外部审计，已致信董事会呼吁加强安全合作。
推荐理由：事件展现了前沿模型推理过程透明度引发的内部安全分歧，读者可据此理解模型审查与商业保密之间的冲突。
科学网AI 评分3232 《自然》（20261022出版）一周论文导读
《自然》新一期论文导读涵盖机电超材料时间晶化、体心立方合金低温增韧、字节级语言模型改造及极端受限水氢键等前沿研究。其中在信息科学领域，研究团队提出两阶段转换方法，仅需少量额外训练即可将基于子词的大语言模型改造成字节级模型，在保持实用推理速度的同时显著提升字符级推理能力。
Ahead of AIAI 评分7171 Sebastian Raschka 发布《从零构建推理模型》完整视频课程
Sebastian Raschka 发布了配套其新书的《从零构建推理模型》视频课程，共包含 8 节课、总时长 11 小时，全流程基于 Python 与 PyTorch 从零实现。课程以 Qwen3 0.6B 为基座，涵盖 KV cache 加速、MATH-500 验证器、推理阶段扩展、简化版 GRPO 强化学习训练，以及利用 DeepSeek R1 生成数据完成监督蒸馏。
科学网精选AI 评分7676 中国信通院发布大模型词元服务报告：Token 价格翻倍且日均消耗量增长近 4 倍
中国信通院等机构联合发布《大模型词元服务性能监测报告（2026年）》，指出国内大模型 Token 归一化均价较去年下半年翻倍至 13.46 元，同时 6 月日均消耗量达约 500 万亿、增长近 4 倍。
推荐理由：报告通过详实的横向监测数据，呈现了国内大模型 API 从价格战走向性能分化的趋势，为开发者选型提供了量化参考。
Simon Willison精选AI 评分8080 Kimi K3.1 Pro 上线 API 并计划开源完整权重
月之暗面在 API 上线 Kimi K3.1 Pro 模型，并承诺于 2026 年 11 月 4 日前开源完整权重。该模型输入与输出价格分别为每百万 token 2 美元和 10 美元，Artificial Analysis 评分为 55 分，同时提供速度快 2 至 3 倍的高速版本。作者通过 Moonshot API 实测了该模型在三种推理等级下的 SVG 代码生成效果。
推荐理由：原文对比了该模型与前沿模型的基准得分与 API 定价，读者可以快速了解即将开源的高性能模型的性价比定位。
arXiv cs.AIAI 评分4040 ToM2Vec：面向多智能体协作的连续心智理论 Token
研究团队提出 ToM2Vec，通过固定预算的连续推理 token 在隐空间构建心智理论（ToM），以提升 LLM 智能体的多智能体协作能力。在 Overcooked-AI、Hanabi 等协作与对抗场景中，该方法显著优于基线，并成功泛化至训练未见过的闭源模型 GPT-5.4。该隐式 token 还能直接提升智能体对搭档信念、意图和下一步动作的判断能力。
arXiv cs.AIAI 评分4444 TraceForge：用自身思维进行知识蒸馏
TraceForge 提出了一种以学生模型自身风格生成推理过程（reasoning trace）的知识蒸馏方法，解决前沿模型隐藏推理链的问题。该方法通过监督与对抗两阶段训练，生成 trace 的真实度评分达 0.68（经 critic 筛选达 0.82），优于真实 trace 的 0.66。
arXiv cs.AIAI 评分4141 基于路径多样性的大语言模型并行思考
针对强化学习下大语言模型并行思考易陷入路径模式坍塌的问题，研究提出多样化并行思考（DPT）强化学习方法。该方法通过惩罚并行推理路径的前缀相似度来奖励差异化策略，进而实现对推理空间的更全面探索。在多个推理 benchmark 上的实验显示，DPT 超越以往基线并达到 SOTA 表现，相关代码已开源。
arXiv cs.AIAI 评分4545 局面同形劫规则下的围棋求解：可靠证明转移与新棋盘博弈值
研究者提出并行证明数求解器 Sanko，通过证明转移定理实现了局面同形劫（PSK）规则下的围棋高效求解。Sanko 在 6 线程下仅用 16 分钟便求解 5x5 围棋（此前 SOTA 需 5.25 小时），192 线程下只需约 1.5 分钟。该成果还首次确定了另外 23 个棋盘的 PSK 博弈值（含 11 个此前未解棋盘），并开源了求解器源码及复现数据。
arXiv cs.AIAI 评分4242 从提示词到后验：LLM 智能体能否在上下文中执行贝叶斯推理？
研究团队系统评测了 LLM 智能体的贝叶斯推理能力，发现模型在上下文更新信念时普遍违背贝叶斯法则。但当模型配备推理能力与代码执行功能后表现大幅提升，甚至能紧密逼近解析不可解的后验分布。该评测表明，结合合适工具的现有 LLM 已可支持科学发现中的复杂信念更新，从而提升 AI 科研效率。
arXiv cs.AIAI 评分3737 SpatialBrain：从经验中成长的空间智能
SpatialBrain 是一个在保持视觉语言底座固定的前提下、通过积累决策经验来提升空间推理能力的框架。它包含融合场景观测信息的 3DFusionMemory、提供可复用工具程序的 Spatial Skill Library，以及将任务条件与决策经验关联的 Spatial Cognition。
arXiv cs.AIAI 评分4343 ARCANA：抽象与类比推理评测基准
研究团队推出类比推理评测基准 ARCANA，测试从现实物体或物理现象到抽象网格变换的远距离类比映射能力。评测显示人类能可靠完成该任务，而主流 LLM 存在显著差距并暴露出系统性失效。为此提出的 ConceptSIR 推理框架助力标准 LLM 解决了直接提示词无法解答的任务，相关代码和数据均已开源。
arXiv cs.AIAI 评分3434 TeachBack：面向在线自蒸馏的双向偏好优化框架
研究人员提出 TeachBack 框架，通过双向偏好优化解决在线自蒸馏（OPSD）中特权教师模型过度依赖参考答案、缺少推导与纠错过程的问题。该框架通过调控提示词中参考推理后缀的长度与风格促使教师自主解题，并利用成对偏好目标实现教师与学生轨迹的双向优化互促。实验表明，TeachBack 在数学和逻辑推理任务上的表现持续优于现有在线自蒸馏方法及相关基准。
arXiv cs.AIAI 评分4040 基于陷阱预判世界模型 PAWM 引导黑盒 LLM 智能体
研究者提出陷阱预判世界模型（PAWM），能在出现潜在陷阱时选择性介入并预测即将发生的失败，从而引导黑盒 LLM 智能体规避错误。PAWM 采用合成陷阱数据进行 SFT 训练，随后通过与黑盒 LLM 协同的 GRPO 进一步优化。评测显示，PAWM 使 Claude Sonnet 4.5 在 ScienceWorld 和 WebArena-Lite 上的表现分别提升 24.3% 和 7.7%。
arXiv cs.AIAI 评分3636 NormTune：面向推理密集型任务的范数引导参数高效微调
NormTune 是一种范数引导的参数高效微调（PEFT）方法，通过依据权重更新范数自适应强化更新不足的层，弥合 PEFT 在推理任务上与全参数微调的差距。在 S1K-1.1 上训练时，NormTune 使 rank-8 LoRA、Bone 和 MoRA 平均准确率分别提升 24.24%、11.33% 和 16.21%，且 rank-256 配置表现达到并微超 S1 全参数微调基线。
arXiv cs.AIAI 评分4242 同答不同理：多语言大语言模型的推理轨迹差异研究
研究提出多语言大语言模型推理轨迹差异框架，通过结构相似度与顺序一致性评估跨语言推理链。在 3 个基准、7 种语言和 6 款前沿 LLM 测试中，整体相似度前 25% 的样本有 52.1%–67.3% 未进入结构相似度前 25%。双语盲测证实人类判断更偏向结构相似度，表明传统方法严重高估了多语言推理的一致性。
arXiv cs.AIAI 评分5454 实例顺序是否同等重要？大语言模型多实例处理中的顺序效应
一项新研究评估了 15 个大语言模型在多实例处理（MIP）聚合预测中的表现，发现模型存在显著的输入顺序敏感性，最优与最差顺序模式间的准确率差异可达约 90 个百分点。当多数标签样本出现在开头时模型准确率通常显著高于出现在中间或末尾。推理轨迹与基于梯度的归因分析显示，模型的推理过程不成比例地偏向早期实例，且首尾位置的归因权重普遍高于中间位置。
arXiv cs.AIAI 评分3434 基于世界模型预测路径的自改进智能体
研究人员提出一种受模型预测路径积分（MPPI）启发的测试时框架，结合世界模型多分支预测与双分支经验记忆实现 LLM 智能体自改进。智能体在每步提出多个候选动作并由世界模型预测结果，通过评估任务进度与风险成本权重指导最终决策。在 ALFWorld 和 ScienceWorld 上跨 3 个基础模型的实验验证了该方法的有效性，相关代码将公开发布。
arXiv cs.AIAI 评分4141 SpecEvo：面向高性价比科学发现的大语言模型投机进化框架
研究人员提出 SpecEvo 多大语言模型框架，通过轻量模型并行生成候选程序并沉淀搜索经验，同时让前沿模型仅在停滞节点执行战略干预。在涵盖 4 个领域的 176 项科学与算法发现任务中，SpecEvo 达到或超越前沿模型基线，同时降低高达 80% 的 API 成本，并在 CO-Bench 上相比最强基准提升 3.8%。
The Decoder精选AI 评分8080 月之暗面发布推理模型 Kimi K3.1 Pro，在基准测试中逼近 Claude Opus 5.5
月之暗面发布推理模型 Kimi K3.1 Pro 及其高速版本，在 Artificial Analysis 智能指数上取得 55 分，排名第四并逼近 Claude Opus 5.5。
推荐理由：该模型通过大幅增加后训练算力显著提升智能体表现，并在开源权重前主动剔除了高危网络攻击训练数据。
AWS Machine Learning Blog精选AI 评分6363 Amazon SageMaker AI 多轮强化学习实战指南：智能体端到端训练与评估
AWS 推出在 Amazon SageMaker AI 上使用多轮强化学习（MTRL）训练智能体的端到端实战指南，解决多步任务难以通过监督微调或单轮强化学习进行信用分配的问题。
推荐理由：原文在 Wordle 任务上展示了如何用整局反馈训练多步智能体，并详细复盘了奖励塑形翻车和并发鉴权等工程踩坑。
Latent SpaceAI 评分7272 AI 为何越来越擅长数学：大模型解题机制与搜索边界解析
大模型近期在数学猜想与定理证明中频现突破，核心在于其采用深度优先搜索结合自动化验证器，能够用算力代替时间快速验证不确定路径。人类数学家依赖直觉进行广度探索并受制于试错精力，而模型体系由起草器将失败尝试沉淀为负向提示词，持续引导求解器推进分支。这种机制使模型在概念跳跃少但推导计算极其繁重的深层问题上展现出独特优势。
arXiv cs.LGAI 评分5959 研究追踪推理模型中 Wait 标记来源：源自训练数据而非强化学习发明
一项新研究追踪开源推理模型的训练历程发现，模型在重新审视步骤时使用的“wait”标记并非由强化学习自主发明，而是继承自预训练数据或带有推理轨迹的微调数据。在缺乏该词的基座模型上，强化学习虽能显著提升 MATH-500 准确率但基本不会凭空生成该词；若基座已有该词，不同强化学习方案则会改变其使用频率和报警敏感度。
arXiv cs.LGAI 评分3434 一师多视角：降低同策略自蒸馏对参考答案敏感度的新方法
针对同策略自蒸馏（OPSD）中教师分布过度依赖单一完整参考解答导致的“参考引发目标不稳定”问题，研究人员提出了蒙特卡洛特权蒸馏（MCPD）方法。该方法将特权上下文建模为部分参考视角的分布，评估多视角下的教师分布并在概率空间进行平均，从而蒸馏边缘教师分布。在数学与科学推理基准测试中，MCPD 提供了更具参考一致性的监督，效果持续优于全参考 OPSD。
arXiv cs.LGAI 评分3535 MOER：基于专家前缀引导与选择性回滚的混合策略优化框架
MOER 提出一种强化学习混合策略优化框架，通过向 prompt 注入逐步缩短的专家思维链前缀引导自主推理，并借助选择性回滚机制将失败补全替换为完整专家轨迹以保证正确性。该框架结合了用于 on-policy token 的 GRPO 损失与置信域 SFT 损失以稳定训练，在数学和通用推理任务中取得最高平均分，代码已开源。
arXiv cs.LGAI 评分3939 Lean Finder V2：支持查询消歧的 Mathlib 语义搜索框架
Lean Finder V2 是一种针对 Mathlib 的语义搜索框架，通过对抗训练与查询重写消除简短、模糊查询的歧义。在人工整理的 MathlibQR 基准上，该框架刷新 SOTA，较此前最优语义搜索引擎取得至少 11% 的相对提升。它在人类与编码智能体未标注查询测试中被评为最强系统，集成至 Claude Code 后提升了定理证明成功率。
arXiv cs.LGAI 评分3535 GIFT：面向蒸馏增强推理强化学习的梯度感知过滤方法
研究人员提出 GIFT 方法，通过 token 级别的梯度几何分解解决蒸馏增强推理强化学习（RL）中的目标冲突问题。该方法将蒸馏梯度分解为衡量冲突的平行分量与量化指引价值的正交分量，并结合覆盖退火（coverage annealing）调度优先剔除冲突更新。在数学与逻辑推理基准测试中，GIFT 在困难数学推理任务上取得最高达 9.5% 的相对提升。
arXiv cs.LGAI 评分4343 随机重新掩码扩展掩码扩散模型推理能力
研究人员提出纯测试期的随机重新掩码去噪（R²D）推理方法与轨迹校正训练（TCT），通过随机重新引入掩码来修正掩码扩散模型解码过程中的不可逆错误。该方法在逻辑任务上呈现接近对数线性的测试期扩展能力，在困难数独和 3-SAT 上分别取得超 97% 和超 99% 的准确率。在语言任务评测中，该方案在 HumanEval+ 上超越了迭代校正基准及 LLaDA2.1-mini 的官方 Q-mode 准确率。
arXiv cs.LGAI 评分3838 通过行为反事实解释模型推理
研究人员提出一种基于行为反事实解释模型推理过程的方法，通过训练模块编辑残差流，最小化固定回复在不同提示词下的输出分布 KL 散度以复现反事实行为。在 Gemma-4-E4B-it 与 DeepSeek-R1-0528-Qwen3-8B 上的案例研究显示，外部建议即便未被模型明确提及，也会通过问题表述与填充 token 处的表征显著改变论证框架甚至最终答案。
arXiv cs.LGAI 评分3333 多模态推理的最小编辑策略内知识蒸馏方法
研究人员提出用于多模态推理的最小编辑策略内知识蒸馏方法，利用教师模型评估错误推理并仅对教师不认可的 token 进行针对性修正，正确推理则接受任务奖励强化学习。该方法在测试阶段无需图像描述即可达到或超越基准模型输入参考描述的性能，显著增强了几何感知能力，且使用同尺寸冻结模型作为教师同样有效。
arXiv cs.LGAI 评分4040 MoEZip：面向稀疏 MoE 大语言模型的路由感知 KV Cache 压缩
MoEZip 是一种面向稀疏 MoE 大模型的路由感知 KV cache 压缩方法，解决了 KV 淘汰改变专家路由并损害生成质量的问题。该方法基于路由分布的 Fisher 信息矩阵评估敏感度，并结合注意力权重对上下文评分。在 10% 的 KV 保留率下，MoEZip 在 LongBench 和 RULER 上较 SOTA 基准平均提升 +24 和 +20 分，分别达到 2.3x 和 4.9x。
arXiv stat.MLAI 评分3636 何时跟随教师：基于优势的在线策略蒸馏（AOPD）
研究人员提出基于优势的在线策略蒸馏（AOPD），通过教师动作在学生模型下的反事实优势进行加权，强化真正有助于提升学生表现的教师指导。该方法仅依赖标准学生采样轨迹与终端奖励进行目标估计，无需额外的 rollout 或奖励评估。在数学、代码与 Medqa 任务实验中，AOPD 在外部教师及自蒸馏设置下均优于传统蒸馏与强化学习基线。
arXiv stat.MLAI 评分4545 带 CoT 的 Transformer 经训练可自主发现重球加速算法
研究表明带 CoT 的 Transformer 在线性回归上下文权重预测任务中，不仅能模仿教师算法，还能通过训练自主发现更优算法。模型在接受梯度下降教师的初步监督后，经真实回归权重的轨迹级监督训练，学会了实现重球加速方法。该加速算法在没有任何重球算法教师监督的情况下自主涌现，为 Transformer 超越监督样本发现新算法提供了理论证据。
arXiv cs.LGAI 评分4343 更优策略反致验证器审计恶化：策略内审计崩溃机制与修复
研究表明，在后训练与测试时计算循环中，随着策略性能提升，针对整体成功标签审计组件验证器会导致“策略内审计崩溃”，使审计可能选出更差的验证器。该失效机制会降低策略外 $F$-AUC，将损害转移至未见过的生成器并增加下游约束违规。研究提出了受控混合审计修复方案，通过在评估与更新分布中保留验证器自身失败样本来消除这一问题。
arXiv cs.LGAI 评分4545 2:4 稀疏度还值得用吗？LLM 推理中半结构化稀疏与量化的对比研究
研究表明在 LLM 推理中只要更低精度可用，降精度优于引入 2:4 稀疏度，后者精度更低且速度更慢。但当量化达到硬件支持的最低精度时，2:4 稀疏度仍能为线性层带来 1.3-1.7x 加速；在 H100 上经重训练的 2:4 模型通过 vLLM 以 FP8 运行，Prefill 吞吐量比稠密 FP8 高 27% 且 GSM8K 准确率持平。
arXiv cs.LGAI 评分3333 迈向现实的变化模型：决策与动态系统的因果视角
一项针对统计学习在分布偏移下泛化缺陷的研究，从因果机制视角提出了面向决策与动态系统的建模框架。研究第一部分重构了算法追索框架，提出更现实的成本函数并引入时间维度评估策略；第二部分将因果干预扩展至离散与连续随机过程，证明其平衡状态可关联至作为时序动态压缩表示的结构因果模型（SCM）。
TechCrunch · AIAI 评分7171 微软在《Science》公布多智能体医疗诊断系统 MAI-DxO，复杂病例模拟准确率达 83%
微软在《Science》发表研究推出多智能体诊断系统 MAI-DxO，在模拟复杂病例诊断中取得 83% 的准确率，超过独立查阅资料全科医生的 36%。该系统通过协调多个 AI Agent 模拟医生会诊流程，在搭配 GPT-5.5 等前沿模型时表现最好，且对能力稍弱模型的提升更为显著。微软同时宣布正与梅奥诊所合作训练医疗基础模型，并在医院急诊等真实环境中开展临床实测。