无穷方差梯度下非线性 SGD 的精确尾部法则
针对具有无穷方差梯度噪声的非线性常步长 SGD，最新研究通过精确一阶尾部概率刻画了最后一次迭代的精度。在正则变化指数 $t\in(1,2)$ 的设定下，主测度通过局部 Hessian 流传递单次大梯度冲击，并在固定 batch size $b$ 时引入 $b^{1-t}$ 因子。该结论给出了显式的投影与超额目标尾部及极端分位数，并在 1 到 100 维的模拟中验证了校准度与 batch 效应。
全部AI 动态
全部动态
今日 64 条arXiv stat.MLAI 评分2828 arXiv stat.MLAI 评分4040 随机机器学习实验的等效性检验与运行次数设计
针对机器学习训练中仅凭两三次运行无法严谨证明方法等效的问题，研究人员提出了一套用于验证 AUROC 等指标实际等效性的检验方案与功效理论。该方案基于区分运行间分散度与样本级噪声的两层方差模型，采用双单侧检验（TOST）及两层 Bootstrap，并给出将等效裕度与目标功效转换为每种方法所需运行次数的闭式公式。
arXiv stat.MLAI 评分3333 无悔语言生成理论研究
该研究提出了无悔语言生成（no-regret generation）理论框架，要求生成器在所有演示序列和目标语言中仅产生次线性数量的错误，并拓展了允许任意演示的不可知变体。
arXiv stat.MLAI 评分3232 高维点云边界检测新方法
研究人员提出了两种针对非均匀密度、高环境维度及强噪声环境的高维点云数据边界检测新方法。第一种方法在局部降维后拟合分离超平面，第二种方法通过测量局部邻域的方向均匀性在合成数据上取得最佳综合表现；算法不仅输出逐点数值边界分数，还能估算各边界点的法向量。该方法已在合成数据、空间转录组学肿瘤边界检测以及 LLM 激活几何分析中完成验证。
arXiv stat.MLAI 评分3838 超越期望值：基于分布蒙特卡洛树搜索的风险敏感规划
研究者提出了 CATSO 和 PATSO 两种分布蒙特卡洛树搜索（MCTS）算法，用于解决 CVaR 等尾部风险目标规划问题。CATSO 采用分类原子和狄利克雷汤普森采样，PATSO 则使用自适应粒子，二者均在有限深度嵌套 CVaR 规划下证明了 $n$ 次 rollout 后根节点值误差具有 $O(n^{-1/2})$ 界限。
arXiv stat.MLAI 评分3333 超越条件独立性的因果发现：有向无环图与有向有环图的可识别性、算法与统计推断
本综述梳理了超越条件独立性、利用分布特性的现代因果发现方法，系统区分了识别来源、统计估计器及计算实现。文章探讨了存在潜变量混淆和反馈环路场景下的因果发现，并明确区分了总体识别、频率学派与贝叶斯一致性、不确定性量化及算法保障。最后给出了按可识别目标对比方法的建议，并指出了异质总体、非标量变量等研究方向。
arXiv stat.MLAI 评分3434 岭回归中通过迁移学习实现极小化极大最优缩放定律
研究人员针对高维岭回归迁移学习机制展开分析，证明微调模型可在特定机制下使缩放定律达到极小化极大最优指数。研究建立了模型与协方差偏移下的风险确定性等价形式，发现该机制下的最优源正则化仅依赖源数据，且通过单遍随机梯度下降微调同样能达到该最优速率。理论分析已在合成环境和语言模型实验中得到验证。
arXiv stat.MLAI 评分2626 多层感知机中用于 Kolmogorov-Arnold 几何的 Rényi 集中度度量
研究人员针对多层感知机（MLP）的 Kolmogorov-Arnold 几何分析框架，提出了基于 Rényi 散度的 $\alpha$-RC 集中度度量族。该度量将雅可比矩阵子式幅值与均匀分布对比，取值严格界定在 0 到 1 之间且不受网络规模影响，克服了传统参与率（Participation Ratio）上限依赖网络大小的缺陷。
arXiv stat.MLAI 评分3535 Conformal Policy Selection：何时为针对性干预部署 AI 决策
研究人员提出名为 Conformal Policy Selection 的安全部署框架，将针对性干预转化为多重检验问题，通过控制错误发现率（FDR）决定何时为特定个体部署 AI 决策。该方法结合应对分布偏移的加权共形 p 值与两步筛选剪枝流程，具备有限样本 FDR 控制及双重稳健性保证。实验表明该框架可充当部署安全门禁，限制模型对高风险子群体施加有害干预。
arXiv stat.MLAI 评分2929 在黎曼流形的未知子流形上计算 Fréchet 均值
研究者提出了一种基于图的迭代算法，用于在仅能通过局部采样器和观测度量访问未知紧致 d 维黎曼子流形的情况下，自适应采样并逼近测地线插值以计算内蕴 Fréchet 均值。在温和假设下，该算法最多使用 Õ(T^(4d+3)) 个采样点即可实现 O(1/T) 的期望目标间隙保证。作为理论副产物，该工作还将 ISOMAP 的度量等价性保证从欧氏环境空间推广到了黎曼环境空间。
arXiv stat.MLAI 评分2626 脉冲神经网络因果分块数量的理论上限研究
研究人员针对前馈单脉冲神经网络推导出了因果分块数量的两个互补理论上限。首先基于多重伯努利数给出了适用于广泛脉冲神经元模型的组合界，阶数为 $e^{2(L-1)N\log N+\mathcal{O}(N)}$（其中 $L$ 为深度，$N$ 为最大层宽）。
arXiv stat.MLAI 评分3838 因果积分梯度：沿因果路径的可扩展特征归因方法
研究者提出了因果积分梯度（CIG）与因果期望梯度（CEG），通过沿因果图路由积分路径将先验因果结构引入输入特征归因，并保留了计算效率与公理化保证。该方法能将特征归因分解为直接效应及通过因果后代介导的效应，在合成基准上达到因果 Shapley 值的准确率且计算成本大幅降低。测试显示，CIG 在单细胞基因表达模拟与真实干扰素-β 刺激数据中均能更准确地识别上游驱动转录因子。
arXiv stat.MLAI 评分2626 协整回归元：折叠凹惩罚超越 LASSO 的场景分析
研究针对高维预测回归中 LASSO 凸惩罚过度抑制协整回归元系数并导致参数估计不一致的问题，采用 SCAD 和 MCP 等折叠凹惩罚（FCP）进行改进。理论上，FCP 确立了惩罚回归的局部 oracle 性质，并在施加惩罚水平约束下保证了能一致估计真实系数的全局 oracle 性质。仿真与欧元区失业率预测应用表明，FCP 相比 LASSO 提升了变量选择与样本外预测表现。
arXiv stat.MLAI 评分3030 ENFR：基于流匹配参考的摊销模拟模型推断证据网络
研究者提出了 ENFR（基于流匹配参考的证据网络），可实现对绝对模型证据 Z 准确、快速且分摊的估计。该方法基于证据网络框架，先学习相对于流匹配参考的贝叶斯因子，进而恢复绝对证据，并在基准测试的所有密度估计方法中取得最佳性能。此外，论文还引入了一种可联合学习多个模型集合独立证据的架构并给出了证明。
arXiv stat.MLAI 评分3434 球面上无需重复学习物理对称性的 SO(3) 等变卷积神经网络（CNN）
研究人员提出了一种面向球面 HEALPix 像素化方案的 SO(3) 等变卷积神经网络（CNN），通过可控滤波器、平行移动和自旋加权特征内置精确物理对称性，免去网络耗费数据学习对称性的成本。
arXiv stat.MLAI 评分2828 用于 Rényi 差分隐私的任务感知核 Stein 证书
研究人员提出基于伴随分布（escort distributions）的核 Stein 差异，为 Rényi 差分隐私提供可计算的验证证书。通过设计针对特定隐私方向的核函数，该方法进一步导出了任务感知的隐私证书。研究给出了高斯和拉普拉斯机制的精确恒等式，以及指数机制的界限与独立任务感知保证，并通过真实数据集验证了受保护比对集与发布子空间对证书的影响。
arXiv stat.MLAI 评分3030 慢非平稳约束 MDP 原始-对偶学习中的参数共振研究
研究针对慢非平稳约束马尔可夫决策过程（MDP），在双时间尺度假设下分析了原始-对偶方法的参数共振现象。理论表明，原始更新所用约束估计与对偶更新所用测量之间的不匹配会导致两倍固有频率的参数共振，其容忍度随双步长比的平方根衰减。在拉格朗日软行动者-评论家（SAC）智能体实验中，相干成本评论家能有效抑制乘子锁定，验证了理论预测。
arXiv stat.MLAI 评分3232 广延宽度神经网络的介观学习动力学
一项新研究针对网络宽度与输入维度成比例增长的两层神经网络，提出了基于重叠分布的介观学习动力学分析框架。在训练初期，高斯统计描述将动力学简化为追踪目标函数线性和二次分量的少数集体变量，随后通过过滤梯度波动的二次屏蔽机制加速单个特征的特化。该工作阐明了激活函数对特化模式的影响，揭示了网络从集体学习向个体特征发现转变的物理机制。
arXiv stat.MLAI 评分3535 迭代算法数据自适应随时有效包络的通用构建方法
研究人员提出了一种为大规模迭代算法构建随时有效（anytime-valid）数据自适应边界的通用方法，以支持数据依赖的动态早停。该方法将算法误差分析归约为可预测加权噪声和的时间均匀集中，并通过混合法、拼接法和乘积下注鞅给出即开即用的边界构建方案。该框架适用于随机梯度下降（SGD）、时序差分学习等场景，在 SGD 上复现并显著收紧了现有全部已知包络。
arXiv stat.MLAI 评分2727 格拉斯曼流形上的自适应共形预测方法
研究人员提出一种针对格拉斯曼流形响应值回归的自适应共形预测框架，可直接在流形上构建度量球形式的输入自适应预测区域。该方法以基不变几何距离为不一致性度量并通过预测难度估计器缩放得分，在可交换性假设下保留了有限样本边际覆盖保证。合成基准与机翼逆向形状设计实验表明，其在强异方差场景能显著缩小预测区域并维持目标覆盖率。
arXiv stat.MLAI 评分3333 在线主动学习的最优样本选择策略研究
研究者在高维高斯设计的高维线性分类场景下，探讨了最小化标注预算泛化误差与累积成本的最优样本查询策略。研究证明贪心短视策略对应随时间缩小的中间间隔策略，并据此设计出简单查询策略，在合成数据和真实医学图像数据集上进行了对比验证。研究还分析了两层神经网络中的短视策略，指出了朴素间隔策略失效的场景。
arXiv stat.MLAI 评分3434 损失函数还是架构？竞争风险生存分析中的关键因素
在竞争风险生存分析中，解耦评估 3 种损失与 4 种主干架构的研究表明，采用删失加权直接建模累积发生率的损失起决定性作用，其收益是选择优秀主干的两倍。将该损失与 RealMLP 或 TabM 结合，在跨 20 个表格和 3 个病理图像数据集的评测中取得了最佳 Brier 分数。研究还发现常用的 C-index 无法有效区分模型差异，需采用严格适当评分规则。
arXiv stat.MLAI 评分3636 共形检验鞅在信息几何视角下的检测盲区研究
研究揭示了共形检验鞅（CTM）在检验可交换性时的理论盲区：任何保持前推分布不变的分布偏移都会使 p-value 分布保持不变，导致基于对应一致性函数 A 的所有 CTM 完全失效。
arXiv stat.MLAI 评分2525 双重稀疏 Spiked Wigner 模型的区分性与信号恢复研究
该研究针对具有独立稀疏噪声的双重稀疏 Spiked Wigner 模型，系统分析了稀疏秩一信号的区分性与恢复问题。在亚高斯噪声下，留一法二次阈值处理能够识别支集，配合符号同步实现精确恢复，谱细化实现强恢复，并给出了计算成本与稀疏度的明确权衡。针对连续噪声，论文提出利用未模糊信号条目的搜索算法，将图连通性确立为精确恢复的充分条件。
arXiv stat.MLAI 评分3636 单位级聚合破坏因果基础模型的置信区间覆盖率
研究发现因果基础模型在聚合单位级估计时会导致置信区间覆盖率严重下降，无法为群体平均效应提供校准的不确定性。例如在 ACIC 2016 基准上，CausalPFN 的 95% 置信区间在样本超过 30 时覆盖率即低于标称值，全样本均值仅在 20% 的数据集中包含真值。通过引入能进行群体联合预测的两个神经过程模型，覆盖率在合成任务及全套 6 个基准上均得到显著改善。
arXiv stat.MLAI 评分3232 ReLU 神经网络对光滑函数的最优逼近研究
该研究解决了全连接 ReLU 神经网络一致逼近 Hölder 球时与信息论效率极限存在差距的问题，针对任意 $s>0$ 和 $D\ge1$ 闭合了这一差距。宽度为 $O(N)$、深度为 $O(L)$ 且参数大小为 $O(1)$ 的网络可达到 $(N^2L^2\log N)^{-s/D}$ 阶的一致逼近误差，且不限制宽度与深度的关系。
arXiv stat.MLAI 评分4545 线性探针的高准确率能证明模型具有线性表征吗？
NeurIPS 2026 入选论文指出，仅凭线性探针的高解码准确率并不足以证明视觉模型具备真正的线性世界模型，因为任何足够丰富的特征映射（包括随机核机制）都能实现线性读出。研究团队提出了反向可预测性、谱集中度和分布外泛化三项非对称诊断指标。在 6 个预训练视觉 Transformer 模型上的测试表明，预训练产生的结构远未达到真正的低维线性表征。
arXiv stat.MLAI 评分3030 面向策略型买家的信息源感知动态定价
研究人员提出了面向策略型买家的信息源感知上下文动态定价框架，并开发出 SALE 定价策略。该策略利用已验证特征进行局部化价格探索，并结合已验证特征与自报告特征校正利用阶段的策略性操纵。SALE 具备自我恢复特性，能在非独立同分布买家到达下实现一致稀疏估计与次线性期望遗憾界，仿真和真实数据实验均验证了其良好性能。
arXiv quant-phAI 评分3232 大误差区间下量子 PAC 学习的无条件优势
研究者证明了在均匀分布与大误差区间下，布尔函数的量子 PAC 学习与经典 PAC 学习之间存在无条件的超多项式分离。针对优势 $\lambda(n) = n^{-\omega(1)}$，多项式时间量子学习器仅需量子随机样本即可输出多项式规模确定性经典电路并达到 $1/2+\lambda(n)$ 的一致度，而经典学习器即便使用成员查询也无法达到同等水平。
arXiv quant-phAI 评分2828 参数化量子电路中的任务对齐谱归纳偏置研究
研究人员提出在数据重上传参数化量子电路中引入固定的任务定义谱查询，以实现任务对齐的归纳偏置。通过编码查询调制现有信号频率的组合方式，可在不引入新样本信息的前提下改变电路的假设空间，适配非均匀傅里叶变换相关任务。在小规模谱任务与合成孔径雷达分类任务中，对齐查询相比查询不匹配或缺失的参数匹配电路，显著提升了小样本数据的学习表现。
arXiv quant-phAI 评分3333 利用量子电路可验证结构通过 AI 智能体实现更高效编译
研究人员提出一种利用 AI 智能体优化量子电路编译的新范式，通过将瓶颈子程序约束为经典可验证结构，并结合模糊测试等方式实现近似电路合成的高效认证。该方法适用于惯性约束核聚变中的库仑算符模拟瓶颈 $1/\sqrt{x}$ 计算、Reed-Solomon 码解码，以及二次量子化化学模拟中的量子查找表与受控 Givens 旋转。
arXiv quant-phAI 评分2525 量子网络传输质量估计：计算、仿真还是学习？
研究提出面向量子网络传输质量（QoT）估计的“计算/仿真/学习”（compute/simulate/learn）决策框架，用于为路由调度等控制面决策提供端到端保真度评估。研究表明，解析计算适用于简单场景，随机存储效应显著时必须采用仿真，而轻量级学习代理模型能以极低运行时成本逼近仿真结果以支持在线控制。该工作同时指出了 Sim-to-Real 迁移及全拓扑泛化等部署挑战。
arXiv quant-phAI 评分2626 基于再生核希尔伯特空间的 IQP 特征映射量子核表达能力研究
研究者基于再生核希尔伯特空间（RKHS）推导出 IQP 特征映射量子核生成元的傅里叶表示，发现其表达特性随带宽超参数划分为局部化、多峰与周期性三种区间。在受控合成数据集上的监督分类和无监督异常检测实验中，该结论在对比经典高斯核时得到验证。结果表明，仅当可访问频率与数据结构匹配时，IQP 核的表达能力才能转化为实际优势。
arXiv quant-phAI 评分2525 ConQUESTA：拓扑感知的量子神经网络训练后结构剪枝
研究人员提出针对量子神经网络的训练后剪枝框架 ConQUESTA，结合任务显著性与编译器成本，在显式精度约束下跨多种硬件拓扑整体转译搜索剪枝掩码。在 4、6 和 8 量子比特 QNN 的 55% 剪枝实验中，其在 Breast Cancer、Digits01 和 Iris 任务上分别实现 61.6%、72.0% 和 82.2% 的平均资源缩减。
arXiv quant-phAI 评分2828 学习用于量子近似优化的参数角度
研究人员提出通过机器学习预测量子近似优化算法（QAOA）的高质量变分角度，将耗时的单实例经典优化替换为单次前向传递。该开源模型在速度上提升了数个数量级且解的质量几乎相当，同时可泛化至 Barabási-Albert 和 2D grid 图等未知拓扑。量子硬件实验证实，该模型生成的角度在采样表现上与传统求解器无异。
arXiv quant-phAI 评分2727 用于求解林德布拉德主方程的量子-经典神经网络
研究人员提出了一种结合经典神经网络与参数化量子线路的变分框架，通过最小化残差成本函数来求解林德布拉德主方程（Lindblad master equations）。该方法在扩大的希尔伯特空间中通过纯化表示密度矩阵，确保正定性、厄米性与单位迹，并通过参数移位法则精确计算所有梯度。理论分析推导了该组合模型的覆盖数上限，数值实验验证了其在耗散量子动力学模拟中的高精度以及关于梯度浓缩的理论预测。
科学网AI 评分7575 戴维·贝克团队开发 RFdiffusion3，实现原子级蛋白质与核酸设计
华盛顿大学戴维·贝克团队开发出生成式 AI 系统 RFdiffusion3，能够直接在原子层面设计蛋白质和核酸，生成结构的速度约为前代系统的 10 倍。在 41 个已有酶活性位点的计算测试中，该系统在 37 个案例中表现优于前代 RFdiffusion2，设计范围还延伸至 RNA 等核酸分子。团队已在湿实验中验证其设计的分解对氧磷酶与特定蛋白酶，均成功完成了预期化学反应。
arXiv cs.LGAI 评分3535 通过学习隐式多表表征迈向先验数据拟合关系模型
研究人员通过在大量合成关系数据库上预训练基于图的关系基座模型 Griffin，探索了先验数据拟合网络（PFN）在消息传递架构上的泛化能力。模型将预训练编码器的隐式表征直接传递给冻结的上下文预测器，无需在下游任务上进行微调。在 16 个真实关系分类任务的评估中，先模式引导后模式无关的纯合成课程学习取得了最强的冻结上下文预测表现。
arXiv cs.LGAI 评分3434 GR-OPD：面向同策略蒸馏的组内相对序列信用分配机制
研究者提出 GR-OPD（Group-Relative On-Policy Distillation），将 token 级教师反馈聚合为校准后的序列级信用，以解耦反馈计算与信用分配。
arXiv cs.LGAI 评分4343 循环大语言模型设计研究（第一部分）：拓扑结构、输入注入与循环状态
研究人员系统解构了循环大语言模型中的拓扑结构、输入注入和循环状态设计，证实 Huginn 架构在 730M 参数及 336B token 规模下全面优于 Ouro。