LLM 生成的证明在程序重构下有多稳定？可验证代码生成压力测试
新基准 RefactorProof 从 185 个 VERINA 任务派生 458 个 Lean 认证变体，测试 LLM 生成证明在程序重构下的稳定性。
#推理
#推理
今日 1 条arXiv cs.AIAI 评分3535 arXiv cs.AIAI 评分3737 面向可解释鉴别诊断的本体引导多智能体推理框架
研究者提出一种面向可解释鉴别诊断的本体引导多智能体框架，通过将 LLM 推理锚定在专家整理的结构化医学知识库中，模拟临床医生的迭代推理过程。该系统将诊断分解为明确、可审计的推理步骤，在减少模型幻觉的同时识别最具辨别力的缺失症状并生成针对性追问。目前该项目的源代码已公开可用。
arXiv stat.MLAI 评分4444 上下文学习中思维链（CoT）的渐近理论
该研究利用高维渐近随机矩阵理论，推导出上下文学习中思维链（CoT）泛化误差关于推理深度、预训练数据量与上下文长度的精确公式。分析揭示了指数改善、饱和及过度思考间的相变，表明更深推理需充足预训练和上下文支持，否则易导致误差放大或饱和。相关预测已在线性注意力和 softmax 注意力模型实验中得到验证。
arXiv cs.AIAI 评分3333 超越静态结构：通过 DynaReason-Pro 连接蛋白质动力学与功能
DynaReason-Pro 首次实现了从构象系综联合预测 GO terms 并生成自然语言功能解释，将蛋白质动力学与功能相连接。该框架在源自 Protein Ensemble Database（PED）的内源无序蛋白（IDP）基准上进行了防数据泄露评估。变异度分层评测显示，其在构象高变异性区间取得了最显著的性能提升。
arXiv cs.AIAI 评分4444 InfiniteWorld：将视觉证据与已知物理规律分离
研究人员推出物理推理基准 InfiniteWorld，通过将问题与系统性修改物理参数的模拟视频配对，测试视频语言模型能否依据视觉证据进行推理。该基准涵盖定律识别、参数估计和定律归纳等 5 项任务，并提供纯文本与视频帧等 5 种配对输入设置。评测显示现有模型普遍依赖地球常规规律，在观测物理动态改变时仍频繁给出常规答案。
arXiv cs.AI精选AI 评分6363 System 1 决策模型指南：超越大语言模型的快速决策架构
研究者发布关于 System 1 决策模型的综合指南，探讨如何通过单次前向传播直接输出结构化决策，解决大语言模型自回归推理在路由、门控、打分和分类等常规决策中延迟高与成本贵的问题。
推荐理由：该文梳理了单次前向传播的快速决策架构，为高吞吐工作流中降低模型延迟与调用成本提供了系统参考。
arXiv cs.AIAI 评分4949 掌握全部事实仍答错：视觉语言模型中的整合鸿沟
研究发现视觉语言模型普遍存在“整合鸿沟”，即模型即便能准确识别各个局部事实，在多证据联合决策时仍会出现严重失效。例如 Gemma-3-27B 能正确恢复所有孤立单项事实，但在 8 项视觉实例上的全局有效率仅有 19.75%。探测与激活替换实验表明，仅在隐藏状态表征解相关信息不足以实现可靠推理，模型改进需专门针对证据整合能力。
arXiv cs.AIAI 评分4444 Iris：支持可复用选项记忆的视觉候选类型化决策框架
研究团队推出多模态决策框架 Iris，支持图像与文本候选输入，在保证严格顺序不变性的同时实现精确缓存复用。跨请求复用图像候选使延迟在 K=256 与 K=2048 时分别降低 37x 和 191x，并在新基准上达到最高 91.7% 准确率且零翻转率。此外，Iris-4B 在 JevBench 评测中达到 100% 准确率超越 30B 模型，代码与权重已开源。
arXiv cs.AIAI 评分4040 PACE：面向自适应猜想探索的研究证明智能体
研究人员提出 PACE，一种支持自适应猜想探索与证明开发的研究证明 AI 智能体。该系统结合独立验证器与证据追踪记忆动态管理依赖，并配套推出了包含 51 个已知任务与 6 个开放问题的应用数学基准 ResearchProofBench。在 51 个已知证明任务中，PACE 取得 75.16 的综合 Proof Score 并完成 20 项证明，评审得分均高于对比基线。
arXiv cs.AIAI 评分4040 MORE：面向自进化 AI 智能体的模式优化与自适应算力推理框架
研究人员提出自进化训练框架 MORE，可针对不同任务自适应选择推理模式（直接回答、长短 CoT、代码推理）与 token 支出。MORE 采用两阶段范式，先建立模式先验，再通过 MATE-PPO 在生成的可验证任务流上自进化，无需人工精选数据。在 3B 至 14B 规模的模型上，MORE 在代码、数学和通用推理基准中均实现了更高准确率、更短回复长度与更少推理时间。
arXiv cs.AIAI 评分4444 RAQ-MLA：面向多头潜在注意力（MLA）Cache 的角色感知量化
研究者提出免训练的角色感知量化方法 RAQ-MLA，专为大模型的多头潜在注意力（MLA）Cache 设计。该方法针对 latent 和位置 key 对注意力输出的不同误差影响分别拟合可逆变换，将完整 MLA Cache 量化至每个元素约 2.5 bits。在无需训练的情况下，其理论 KV cache 容量提升 6.5x，并在 4 个 MLA 模型的推理与代码任务上保持几乎无损。
arXiv cs.AIAI 评分5353 审计罕见病诊断大模型系统中的评估偏差与数据泄漏
研究团队基于超 60,000 例临床病例开展实证审计，发现当前大模型在罕见病诊断上的高准确率多源于数据泄漏而非真实医学推理。在引入严格的跨数据集隔离后，前沿智能体框架的跨数据集平均 Recall@1 从 54.3% 降至 40.3%，监督分类器准确率也从 42.9% 骤降至 16.7%。研究还量化了大模型利用病历回顾性治疗线索等评估假象，并提出了标准化的医疗 AI 防泄漏评估框架。
arXiv cs.AIAI 评分3636 SMART-Med：基于不确定性感知路由的选择性多智能体医学推理
研究人员提出本地多智能体医学推理方法 SMART-Med，通过不确定性驱动的路由机制自适应决定直接回答还是引入专家智能体协作。该方法结合新构建的数据集 MedVR-3K 并采用 GRPO 算法微调，在 Slake、PathVQA、VQA-RAD 和 PMC-VQA 四项基准上取得 6.7% 的平均提升。同时，SMART-Med 将推理时间缩短超过 3.8x，token 消耗降低 72%。
arXiv cs.AIAI 评分4949 如何构建现代扩散语言模型
现代扩散语言模型通过从噪声或掩码序列中并行生成 token 并迭代去噪，克服了自回归 LLM 顺序生成导致的 GPU 瓶颈与不可修改问题。该机制可实现每秒数千 tokens 的生成速度，并支持内置纠错与推理计算扩展。目前离散扩散模型在生物序列和自然语言领域已扩展至数十亿参数，包含开源与商业化发布。
arXiv cs.AIAI 评分4343 作用域语义不变性：构建大语言模型可靠性的基础
针对大语言模型在语义等价查询下输出不一致的问题，研究提出了基于知识图谱的作用域语义不变性评估框架。在 MITRE D3FEND 及 8 个 Wikidata 派生域的评测显示，模型不一致性集中在由 TREE、STAR 和 CYCLE 模式构成的稳定热点子图上。采用选择性图接地与分层接地策略，可在保留正确知识的同时显著减少不一致并提升正确性。
arXiv cs.AIAI 评分3535 基于大语言模型扩展质性分析：人机协同编码 Smart Coder 框架的开发与验证
研究人员提出用于人机协同质性编码的 Smart Coder 框架，通过指令、提示策略与信度检验三阶段系统化规范大语言模型辅助编码。基于 72 份教师访谈逐字稿的评测表明，明确指令与链式推理能显著提高编码一致性，自洽性机制则有助于筛选不稳定决策供人工复核。该框架在系统化监控模型的同时保留了人类对最终决策的主导权。
arXiv cs.AIAI 评分3030 面向可质疑因果发现可证明补偿的最优修正集
研究人员针对因果发现中的条件独立性检验冲突，提出将事实修复建模为最小成本修正问题，并通过回答集编程（ASP）实现因果一致性求解。该方案在最优稳定模型与最小成本修正集间建立映射，为用户质疑提供形式化补偿保证。基准评测显示，OptABA-PC 相比 Causal ABA 保留了更多正确事实，减少了歧义并提升因果图重构表现。
Google ResearchAI 评分5656 Google 提出用于大语言模型持续学习的睡眠框架
Google 联合康奈尔大学等提出睡眠框架，通过交替运行清醒交互与离线睡眠阶段，使大语言模型在持续学习中保留知识并避免灾难性遗忘。在离线睡眠期，模型通过 MoE 结构动态扩展低秩专家参数，结合在策略蒸馏将短期记忆转化为长期参数，并通过做梦阶段生成合成样本进行自监督提升。
arXiv cs.LGAI 评分3939 BiLoCo：面向训练后量化的二值低秩校正方法
BiLoCo 是一种面向大模型 FP4 训练后量化（PTQ）的二值低秩校正方法，将校正因子存为二值符号向量，单秩分量存储减少 16 倍，且可在 CUDA Core 上与 Tensor Core FP4 GEMM 并发运行。
arXiv cs.LGAI 评分4040 多候选推理中的隐藏接口损耗：正确答案为何无法被选择器选中
研究揭示大语言模型在多候选推理中存在“隐藏接口损耗”，即候选池中的正确答案常因残缺、不可解析或格式失配而无法被固定选择器选中。为此团队提出 CACC 接口层，无需重新训练任何组件即可修复候选片段并对齐答案模式。在 GPQA Diamond 基准上，CACC 单独将最终准确率从 5.6% 提升至 19.2%（+13.6 pp），结合提议端增强后达 25.8%（+20.2 pp）。
arXiv cs.LGAI 评分3434 MS-TTRL：打破多解测试时强化学习中的频率冲突
研究团队提出 MS-TTRL，通过结果级自我验证分离正确性估计与多样性保持，解决多解测试时强化学习中的频率冲突。该方法引入三状态结果缓存，并利用置信度门控逆概率缩放强化罕见且可靠验证结果的学习信号。跨 2 个基准与 3 个骨干模型的实验表明，其恢复率较最优无标签基线平均提升 19.13 个百分点，性能接近有监督 IPS-GRPO。
arXiv cs.LGAI 评分4343 Principia：面向科学发现的测试期假设与原理构建框架
研究人员提出基于 LLM 的科学发现框架 Principia，能够在测试期从输入与观测结果中构建因果假设，并将其持续演化提炼为归纳性科学原理。在分子优化、蛋白质工程、基因扰动和分子性质预测等基准测试中，Principia 表现超越了依赖内部知识、外部来源或经验总结的基线方法，生成的原理与文献一致。该项目代码已开源。
arXiv cs.LGAI 评分4242 REACT：思维链轨迹的早期表征分析与控制
研究提出的激活干预方法 REACT 仅在思维链早期应用单次控制，将 DeepSeek-R1-Distill-Llama-8B 在 StrongREJECT-273 上的完全安全输出率从 29.06% 提升至 82.05%。评测显示干预的最佳窗口集中在前 2 至 3 个 token，并在保持良性拒绝率和有用性接近基线的同时，模型权重全程冻结且无需二次编辑。
arXiv cs.LGAI 评分3434 ReMedI：用于可控分子优化的推理时精炼与自我蒸馏
研究团队提出分子优化框架 ReMedI，利用 Metropolis-Hastings 搜索在推理阶段引导分子语言模型精炼，并将搜索轨迹自我蒸馏。在 C-MuMOInstruct 和 SMDD 基准上，该方法显著提升了 3 种骨干模型的优化成功率。相比基线 C-MORAL，ReMedI 训练分子用量减少约 7.8 倍，严格成功覆盖率达到其约 2.8 倍。
arXiv cs.LGAI 评分3737 一致性而非归一化维持循环语言模型的深度可复用性
研究表明，维持循环语言模型深度可复用性的是训练与运行循环的一致性，而非循环步之间的状态归一化。测试显示，直接从已发布的 Ouro-1.4B 与 Ouro-2.6B 移除归一化会导致二分类准确率降为 0（状态范数维持在 2.021 倍内），但在从头训练的 19M 模型中无归一化训练的外推能力更优（Cliff's delta 达 0.867）。
arXiv cs.LGAI 评分3434 延迟解码与单次乘法：重新审视量化权重的点积计算
针对 1-4 bit 权重部署，研究者提出延迟解码点积重构方案，使长度为 n、k-bit 权重的点积仅需 n+2^k 次加法与至多 2^k 次解码和乘法。该方案将权重编码直接用作地址累加激活值并在末尾统一解码乘算，使乘法器数量减少 n/2^k 倍，局部权重内存缩减最高达 w_d/k。基于此设计的 SA-PE 处理单元已在 FPGA 综合中验证了硬件收益与计算等价性。
arXiv cs.LGAI 评分3434 投机扩散的双重权衡
研究提出通过联合调整扩散工作量与投机解码宽容度，探索投机扩散（Speculative Diffusion）的速度与质量帕累托前沿。扩散大语言模型（dLLMs）能通过并行生成 token 作为草稿模型加速推理，投机解码本身也能放宽验证器的接受标准来实现有损快速采样。实验表明，联合调节这两项参数相比单步扩散草稿能有效扩展速度-质量帕累托前沿。
arXiv cs.LGAI 评分3535 通过按查询模态选择实现高效全模态大语言模型推理
研究提出面向全模态大语言模型（Omni-LLM）的逐查询模态选择方法，在保持模型固定的前提下自适应选取输入模态，以优化准确率与推理成本的权衡。在 WorldSense 基准上评估 Qwen2.5-Omni 与 Qwen3-Omni 发现，该方法表现均优于全模态输入基线。
Cloudflare Blog精选AI 评分7676 Cloudflare 复盘 Workers AI 中 GLM-5.3 的 KV cache 跨请求泄露漏洞及 SGLang 修复方案
Cloudflare 披露 Workers AI 在运行 GLM-5.3 时因配置失误与 SGLang 缺陷出现跨请求 KV cache 泄露，影响了 155 个超长 prompt 响应并已完成修复上线。
推荐理由：原文详细拆解了分离式推理下缓存复用导致的跨租户数据泄露机制，为大模型托管服务排查引擎内存安全提供了参考。
arXiv cs.AIAI 评分4040 CauProphet：让智能体像人类一样建立因果认知
新研究提出 CauProphet，通过在因果认知（Causal Cognition）中构建并持续更新结构化因果信念（Causal Belief），使 LLM 智能体具备类似人类的因果理解与持续学习能力。在金融研究评估中，CauProphet 对次日收益率的平均秩相关性相比基线智能体提升 25.4%，并在动态现实场景中将预测准确率从 21.3% 提升至 28.6%。
arXiv cs.AIAI 评分3434 多模态嵌入框架 PILOT：超越事后奖励的特权推理探索
研究者提出多模态嵌入框架 PILOT，将推理建模为隐变量，利用训练期关联证据指导推理探索以优化嵌入表示。该框架通过先验与后验协同演化机制，在共享推理兼容奖励下将高价值探索轨迹迁移至推理阶段。在包含 78 个任务的 MMEB-V2 基准上，PILOT 在 2B 和 7B 参数下总分分别提升 3.2 与 3.3 分，视觉文档检索提升达 +6.1 和 +6.4 分。
arXiv cs.AIAI 评分3333 多模态强化学习：从视觉亲和力到学习信用分配
研究提出插件式框架 Outcome-Conditioned Visual Credit（OVC），将多模态强化学习中的视觉关联度度量与 token 级信用分配解耦。该方法无需辅助奖励模型、过程标注或推理期模块，直接复用现有采样数据调制 token 梯度贡献。在 3 个模型上，其实例化方案使 6 项基准测试平均准确率相较 GSPO 持续提升 1.86-2.39 个百分点。
arXiv cs.AIAI 评分3939 Solvent：面向多步逆合成的长程推理模型
研究团队推出 8B 参数的 LLM Solvent，将长程推理拓展至多步化学逆合成任务。Solvent 通过两轮后训练交替执行合成规划、外部可用性验证与自适应路径修正，经 RL 实现 2.1x 性能提升，在 4 个 benchmark 上取得 61.86% 的综合得分。其表现超越传统基于搜索的逆合成系统并匹敌前沿万亿参数 LLM，相关代码与模型均已开放。
arXiv cs.AIAI 评分3737 RxnExBench：面向科学文献结构化化学反应提取的视觉语言模型评测基准
研究人员提出多模态基准 RxnExBench，包含 3,565 个专家标注反应和 2,361 个分子结构，用于评测视觉语言模型的结构化化学反应提取能力。该基准统一了 15 个反应角色与 26 个核心字段，并提出解耦分子识别与高阶推理的 Oracle-MolRec 协议。对 9 个 SOTA 模型的评测显示多模态整合与化学推理是主要瓶颈，相关数据和代码均已开源。
arXiv cs.AIAI 评分3434 PEAR：面向大视觉语言模型感知与探索的自适应优势重塑方法
研究人员提出面向大视觉语言模型的优势重塑方法 PEAR，旨在兼顾多模态推理中的视觉感知与多样化路径探索。PEAR 以视觉依赖为基础信号，仅对高熵位置补充探索增益，且视觉依赖越低增益越大，以此生成正 token 级权重重塑序列优势。在 Qwen2.5-VL-3B/7B 上的实验显示，PEAR 在多模态推理基准上取得最高平均表现，并在文本推理与通用多模态评测中领先。
arXiv cs.AIAI 评分4444 并非所有信息都值得获取：面向 LLM 的决策驱动信息获取
针对 LLM 在不完全信息决策中过度索取冗余证据的缺陷，研究人员提出无需训练的信息获取方法 DIVA 及其变体 DIVA-U。该方法引导 LLM 构建小型决策模型，评估候选证据改善决策的净价值，并在证据充分时主动停止检索。跨 4 个领域和 20 个 LLM 的测试显示，DIVA-U 在真实数据上的后悔值低于所有基线，DIVA 在合成场景中将最佳 LLM 基线的后悔值降低了 75%。
arXiv cs.AIAI 评分4646 $\Psi$-0.6：统一视觉语言世界模型中的自适应思维流
统一视觉语言世界模型 $\Psi$-0.6 正式提出，其通过共享 token 接口交织图像、文本及几何运动显式表示，实现自适应的“思维流”物理推理。该模型在多视角空间推理零样本评测中超越主流开源权重模型，并支持判断移动物体是否阻碍路径等反事实模拟。借助任务反馈强化学习优化中间表示，其视觉问答准确率显著提升并能泛化至未见基准。
arXiv cs.AIAI 评分3636 DELA：为扩散语言模型学习可控编辑
研究者提出插件框架 DELA，配合冻结的扩散语言模型（DLM）以及 Insert、Delete、Remask 和 Stop 四种显式编辑操作实现可控草稿细化。该方法采用两阶段解码，先通过快速仅追加草拟支持 KV cache 复用，再进行全篇全局细化。在数学推理与代码生成任务中，DELA 在保持主干模型冻结时比直接扩散解码最高提升 5.5 个百分点。
arXiv cs.AIAI 评分4848 解析多智能体 LLM 系统中的通信失败
一项针对多智能体 LLM 系统的研究基于医疗问答、代码、金融等任务的 3,211 条多轮失败轨迹，构建了通信失败分类体系。分析表明系统失败主要由恢复纠错与共识决策问题主导，而非孤立的首轮错误，多数问题在智能体首次观察到同伴回应后显现。研究据此建议在最终定稿前强化分歧处理、证据验证、少数派信号保留及恢复检查。
arXiv cs.AIAI 评分3535 测试时记忆演化（TTME）能否在科学发现中超越测试时训练（TTT）？
研究人员提出即插即用的测试时记忆演化（TTME）方法，通过蒸馏经验持续更新外部记忆来指导后续科学发现，无需像测试时训练（TTT）那样在线更新模型权重。在相同的科学发现框架评测中，TTME 在全部 5 项数学任务上的表现均优于 TTT，同时计算量（FLOPs）降低了 82.8%-84.6%，运行时间减少了 47.7%-58.4%。