非平稳加权风险最小化的快速收敛率
研究者分析了分布漂移下加权经验风险最小化的样本外预测误差，将超额风险分解为学习项与分布漂移误差项，并在混合条件下证明了学习误差的 oracle 不等式。针对平方损失设定，研究给出了结构突变与平滑漂移过程的显式漂移误差界，并扩展至线性模型、基函数逼近和神经网络的（自）回归问题。最优权重展现了学习与漂移之间的偏差-方差权衡，退化至无加权平稳设定时可恢复极小化极大最优收敛率。
全部AI 动态
全部动态
今日 1 条arXiv stat.MLAI 评分3030 arXiv stat.MLAI 评分2828 无穷小算子世界模型：离线强化学习的有限样本保证
研究提出基于算子理论的世界模型，通过在再生核希尔伯特空间学习受控扩散过程的无穷小生成元，为离线强化学习提供有限样本保证。该方法结合 Hamilton-Jacobi-Bellman 方程，确立了生成元近似误差足够小时价值函数的全局收敛性。团队还推导出与系统平滑度及稳定性绑定的显式有限样本界，为连续时间最优控制应用于离线强化学习奠定基础。
arXiv stat.MLAI 评分1515 用于空间预测的代理图划分
作者 Yuta Shikuri 等人共同撤回了关于空间预测代理图划分的论文，后续研究将调整作者署名安排重新开展。该论文原针对黑盒空间预测模型缺乏可解释性的问题，提出将空间分段构建建模为混合整数二次规划问题，并利用图划分结构特征设计了近似方案以提升大规模数据下的计算效率。
arXiv stat.MLAI 评分2626 贝叶斯最优实验设计中的微分熵近似
研究者提出一种在贝叶斯最优实验设计中近似微分熵的高效计算方法。在加性高斯噪声模型下，该方法通过 Monte Carlo 或 quasi-Monte Carlo 代理近似证据密度，无需额外似然评估即可计算微分熵，将期望信息增益的嵌套积分折叠为单重积分。理论证明该策略仅依赖前向映射的温和光滑性，收敛率媲美或优于现有 SOTA 方法。
arXiv stat.MLAI 评分2424 马尔可夫链在核诱导几何下的收敛性研究
新研究探讨了马尔可夫链在正定核关联的希尔伯特嵌入几何（MMD）下的收敛性，建立了经验占优测度向不变测度收敛的非渐近高概率界。该理论界证明谱隙决定主项中的有效样本量，而核收缩仅引入线性修正。基于该成果，研究进一步推导出从单条轨迹预测动力系统时非线性最小二乘估计器的快速学习率。
arXiv stat.MLAI 评分3434 SLICE：基于共形 E-Values 的序列无似然推断
研究人员提出了名为 SLICE 的序列无似然推断方法，可为难以计算似然度的模型参数构建精确的任意时间有效（anytime-valid）置信序列。该方法通过将正预测分数共形化为条件 e-value 并构造检验鞅求逆，即便使用摊销神经比率估计器近似分数也能保证有效性。在合成基准、LLM API 的模型路由审计及微引力透镜数据上，所得置信序列在持续监测下仍能保持有效。
arXiv stat.MLAI 评分3434 一步到位校准：联合学习准确且校准的神经网络
研究人员提出一种基于双层 Stackelberg 公式的端到端校准方法，可将标准校准器与神经网络骨干网络联合训练，无需独立校准集或专用校准损失。该方案仅使用交叉熵同时优化准确率与校准性能，仅引入校准器学习率这一个额外超参数。直接将最终分类层作为校准器即可实现无需额外参数的准确校准模型，性能超越 SOTA 校准器。
arXiv stat.MLAI 评分2727 基于核方法的实验研究外部有效性评估
研究人员提出了一种基于最大均值差异（MMD）的形式化框架，用于评估实验研究在未见实验条件下的外部有效性。该方法利用研究规模与 MMD 分位数之间的渐近幂律关系，可通过小规模预实验预估具备外部有效性所需的研究规模，并已应用于含并列项的排序场景。相关代码已作为 Python 模块 genexpy 的一部分公开发布。
arXiv stat.MLAI 评分2727 超越差异度量：非平稳加权风险最小化中的预言机漂移
研究者提出将非平稳加权风险最小化中的漂移误差直接与模型类中最优预测器的变动（预言机漂移）相关联，而非依赖传统的差异度量（discrepancy）。分析表明传统差异度量可能过于保守，其阶数可能高于超额风险贡献，并对不影响最优预测器的风险曲面变化产生响应。该研究精确刻画了线性回归中的这一差距，并进一步拓展到了非参数回归分析。
arXiv stat.MLAI 评分2525 时变分层基础设施下的电动汽车充电概率预测
研究人员针对时变分层基础设施下的电动汽车充电需求提出了结合分层预测与缺失数据保形预测（conformal prediction）的概率预测方法。该研究基于苏格兰公共充电站的大规模数据集，涵盖从单充电桩到区域及国家的多层级聚合结构。所提出的保形流程能在层级结构的每个节点生成有效的预测区间，且 CP-MNR-Nested 算法成功应对了基础设施动态变化带来的数据挑战。
arXiv stat.MLAI 评分2929 高斯 BROJA 偏信息分解的闭式解推导
研究人员推导出了多元高斯分布下 BROJA 偏信息分解（PID）优化问题的闭式解。该闭式表达式支持在通用多元高斯场景下直接计算，并在高维计算中实现了超过两个数量级的计算加速。相关实现代码已公开可用。
arXiv stat.MLAI 评分2929 时间序列因果发现的核心要点指南
该教程对跨统计学、动力系统与机器学习等领域的时间序列因果发现研究进行了统一梳理，系统阐述了现代方法的核心原理、局限性与假设条件。内容还涵盖因果发现方法的评估、基准测试与微调，并探讨了其在农业、地球科学、医疗健康及人工智能系统等下游任务中的关键应用，同时提供了配套的代码与资源库。
arXiv stat.MLAI 评分2828 BLOKS：通过草图块预条件技术扩展核求解器规模
研究人员提出基于共轭梯度的核岭回归（KRR）求解器 BLOKS，通过将块雅可比近似与草图技术结合来构建新型预条件子。该预条件子的显存开销与数据集大小及参数量均无关，支持模型扩展，并提供了高显存效率的 GPU 加速实现。在标准大规模基准测试集上，BLOKS 取得了与当前 SOTA 方法相当或更优的性能。
arXiv stat.MLAI 评分2626 掩码文本重构中语料采样分歧的预测研究
研究者推导出一阶公式，用于在无需访问目标语料的前提下预测独立语料训练模型间的预期分歧，并在覆盖 50,257 个 token 的 GPT-2 词表上完成评估。在 TinyStories、WikiText-103 和 CNN/DailyMail 上，语料块从 512 增至 2,048 个仅使分歧下降 5%–40%，远低于 1/n 缩放预期的 75%。
arXiv stat.MLAI 评分3333 基于引导扩散模型的空间预测
研究提出利用引导扩散模型解决空间预测难题，在数据模型似然函数已知且可微时实现预测分布采样。该方法适用于高斯与非高斯过程模型，支持计数、区域聚合和右截断等多种数据类型，并在英国与爱尔兰的甲烷通量反演实验中完成验证。其在高维潜变量下具备良好扩展性，可有效应用于传统 MCMC 难以处理的复杂模型场景。
arXiv stat.MLAI 评分2727 带幂次切片 Wasserstein 泛函估计的极大极小率
该研究确立了在投影 r 阶矩假设下估计带幂次切片 Wasserstein 泛函的双样本极大极小率。在样本规模 N=n∧m 条件下，当 p<r<2p 时收敛率为 N^{-(r-p)/r}，r>2p 时为 N^{-1/2}，两类非临界情形下插入估计量均达最优。在端点 r=p 时无法实现一致估计，而在临界阶 r=2p 时上下界仍留有对数差距。
arXiv stat.MLAI 评分3838 KPSA：用于摊销条件可解释性的核化参数敏感度图谱
研究人员提出基于经验神经正切核分块分解的核化参数敏感度图谱（KPSA），通过轻量核函数预估未见输入的参数敏感度，以摊销重复的反向传播计算成本。在 Transformer 的 MLP 特征激活归因测试中，KPSA 将批量查询吞吐量从 551 提升至 2,041 images/s，并将峰值 GPU 显存从 4.55GB 降至 0.44GB。
arXiv stat.MLAI 评分3333 大语言模型行为表征与风险管理的分布框架
新提出的分布分析框架通过蒙特卡洛模拟构建大语言模型的经验响应分布，覆盖任务设计到持续监控的全生命周期风险管理。该方法通过引入语义干预量化分布变化，已在借款人分类与音乐专辑推荐任务中评估鲁棒性和控制有效性。由于仅依赖观测响应，该框架可直接应用于通过商业 API 访问的黑盒模型。
arXiv stat.MLAI 评分3333 基于单步隐式采样的摊销推理
研究人员提出单步隐式采样器 OSIS，旨在解决高维贝叶斯后验分布中可扩展的单步摊销推理难题。该方法利用短时 MCMC 动力学为隐式建模分布的演化定义局部目标，在渐近极限下使建模分布成为 MCMC 核的不动点以完成目标采样。与多步摊销采样器及非摊销 MCMC 基线相比，OSIS 在采样时间效率上显著提升且性能良好。
arXiv stat.MLAI 评分3232 基于 Transformer 的掩码扩散模型可证明学习潜结构分布
最新研究建立了端到端统计保证，证明基于 Transformer 的掩码扩散模型（MDM）能有效学习具有潜结构的数据分布。在数据由隐马尔可夫树混合建模时，采用并行去掩码调度的 Transformer MDM 在 KL 散度下实现 $\varepsilon$-精确采样仅需 $\widetilde{O}(LK_{\mathrm{par}}/\varepsilon)$ 个训练样本。
arXiv stat.MLAI 评分2626 缺乏锚点的忠实度：关于可解释 AI 特征重要性忠实度指标结构性失准的立场论文
一篇发表于 IJCAI-ECAI 2026 XAI 研讨会的立场论文指出，可解释 AI（XAI）特征重要性忠实度指标存在显著局限，难以严谨量化解释与模型实际运作之间的拟合程度。该研究指出了现有忠实度指标存在的 5 大主要缺陷，并提出了 4 条旨在提升其可靠性的研究方向，以解决此类量化不可行或计算成本高昂的问题。
arXiv stat.MLAI 评分5252 关于 AI 时间跨度的估计与有效性：对 METR 图表的统计学审视
研究者针对 METR 提出的 AI 50% 时间跨度指标，利用样条函数与项目反应理论放宽了对数线性假设，在 228 个任务和 26 个 AI 上重新计算了时间跨度估计。拟合结果显示人类用时在 2 至 30 分钟区间内难度几乎平坦，表明跨度从 3 分钟跃升至 30 分钟远比从 30 分钟跃升至 5 小时容易，研究同时提供了更优的点估计与构念效度诊断图。
arXiv stat.MLAI 评分2424 异步 Q-Learning 的到达时间界
研究人员证明了在单条有限马尔可夫决策过程轨迹下，采用常数步长的零初始化异步 Q-learning 最终迭代能以高概率达到至多 $\varepsilon$ 的范数误差，样本复杂度为 $\widetilde{O}(H^4/(\mu_{\min}\varepsilon^2)+\mathfrak h_\star)$ 步转移。
arXiv stat.MLAI 评分3030 全离散条件扩散模型的有限样本保证
研究针对采用有限去噪步数训练的全离散条件扩散模型，建立了有限样本理论保证。该方法通过将 score 训练目标与采样网格对齐，联合分析了统计估计与数值离散误差。在平滑条件密度假设下，采样器的平均目标总变差（TV）误差达到 $\widetilde O_p(n^{-\beta/(d_x+d_y+2\beta)})$，在对数因子内匹配现有条件分布估计理论速率。
arXiv stat.MLAI 评分3737 受约束概率数值计算：线性不等式约束下的线性偏微分方程高斯过程求解器
研究者提出一种在有限维线性不等式约束下求解线性偏微分方程的高斯过程框架，将物理信息后验作为虚拟点不等式更新的先验，使结合后的非高斯分布可通过截断高斯矩计算。在二维 Poisson 基准测试中，单调性约束使重建误差降低了 63%；在仅保留 20 个报价的标普 500 期权链上，无套利约束将外推误差降低 22%，并将日历套利发生率从 10% 降至 1%。
arXiv stat.MLAI 评分3636 从像素到隐私敏感特征：面向重构下界的信息论框架
研究提出了一个用于推导 DP-SGD 重构攻击失真下界的信息论框架，可在模型训练前计算针对特定特征表示的重构误差。该框架利用率失真理论将条件互信息度量的泄漏量与源熵相结合，证明了任意重构攻击均存在不可避免的期望误差下界。该成果已在像素空间和 LPIPS 特征空间实现，给出了首个直接以 LPIPS 衡量的重构失真下界。
arXiv stat.MLAI 评分3535 先验数据拟合网络（PFN）摊销贝叶斯推理的效果如何？
研究人员通过经验风险最小化视角，评估了先验数据拟合网络（PFN）对贝叶斯后验预测分布（PPD）的逼近质量。结果显示 PFN 总体上能很好地还原目标 PPD，但在预训练先验的罕见场景下仍存在摊销误差且扩大模型规模也难以消除，导致独立预训练的 PFN 间产生分歧。采用多种贝叶斯模型平均方法可有效减少该不确定性，并改善包括完整尺寸 TabICLv2 在内的模型预测表现。
arXiv stat.MLAI 评分3434 基于分组二次核的离群感知注意力线性化方法 OAL
研究人员提出离群感知注意力线性化方法（OAL），通过将贡献尺度相近的维度分组共享系数并单独处理少数离群维度，构建对序列长度具备线性复杂度的正二次核近似。在 Qwen2.5-0.5B 上，OAL 相比 DiJiang 将冻结注意力输出的相对 MSE 降低约 8.9%。
arXiv stat.MLAI 评分2525 面向非高斯空间场的可扩展稀疏自回归变分推断
研究人员提出了一种面向非高斯空间场的可扩展变分推断框架，解决了大尺度非高斯数据集中潜变量场后验分布难以解析求解的问题。该方法在变分分布族中映射先验的稀疏最近邻自回归结构，利用归一化流条件分布提升表达能力，并通过单一共享神经条件网络摊销所有变分参数。结合简化祖先集（reduced ancestor sets）的双重随机优化，实现了每次迭代对数多项式级（polylogarithmic）的复杂度。
arXiv stat.MLAI 评分4545 对 LLM 测试期锐化中幂采样的批判性审视
用于 LLM 测试期锐化的幂采样在现实算力下难以收敛至目标分布，其收益大多可通过简单的 Best-of-N 结合适当评分复现。即使通过微调让模型直接拟合目标分布，带来的性能增益也充满噪声且不稳定。幂采样的实际价值不在于精确逼近目标分布，而仅在于提取基座模型已判定为高概率的序列。
arXiv stat.MLAI 评分3232 生成式扩散模型与最优传输关联探讨
研究探讨了生成式扩散模型与最优传输之间的三个核心关联，表明数据与其 Ornstein-Uhlenbeck 加噪的联合分布在任意时刻都是熵正则化最优传输问题的解，反向扩散可视为逐渐降低熵正则化的退火过程。
arXiv stat.MLAI 评分3535 CorrFlow：基于相关性椭球面的精确且置换等变流匹配方法
研究者提出了用于生成相关矩阵的 CorrFlow 模型，结合广义 Fisher 变换与置换等变的图流匹配网络，无需后处理投影即可保证生成结果 100% 落在相关性椭球面上。在 80×80 台湾股票矩阵实验中，CorrFlow 的特征切片 Wasserstein 距离达到 0.712±0.141，显著优于 CorrGAN（4.339±0.252）和图像扩散模型（4.610±0.191）。
arXiv stat.MLAI 评分4949 防御知识蒸馏的黑魔法：无监督发现潜意识学习
研究人员提出一种防御大语言模型知识蒸馏潜意识学习的新方法，仅凭参数更新即可在无监督且无需预先知晓特征标签的情况下发现并恢复隐蔽传递的未对齐特征。该方法利用教师模型特征在多样化生成数据中表达一致的不对称性构建权重空间估计器，既能放大方向用于解释特征，也能将其投影消除以抑制表达。在基准测试中，该方法成功恢复了传递的偏好特征并抑制其表达，且几乎不影响任务性能。
arXiv stat.MLAI 评分2727 基于压缩的学习理论：风险估计达到大数定律收敛率
研究证明基于优先压缩（preferent compression）的学习算法风险上界可达到 k/N + O(1/√N)，消除了以往结果中多余的对数因子 O(√(ln N/N))。
arXiv stat.MLAI 评分2727 无模型贝叶斯聚类与多模态后验总结方法
研究人员提出了一种无模型且具备噪声感知的贝叶斯聚类框架，从预测性贝叶斯视角构建聚类的鞅后验（martingale posterior）。该方法避免了显式似然-先验模型设定与高成本的 MCMC 采样，支持不规则聚类形状并可并行生成后验样本。研究还引入基于 Wasserstein 的总结方法与新型噪声感知损失，将大量后验样本压缩为少量带权重的代表性结构。
arXiv stat.MLAI 评分3131 连续动态时间规整的快速梯度近似方法
研究人员针对连续动态时间规整（CDTW）计算成本过高的问题，提出了一种对 GPU 友好的高效近似求解器 FastCDTW。该算法提供针对分段线性函数的精确闭式解与针对平滑函数的无偏蒙特卡洛估计器，均支持对规整函数和输入时间序列进行梯度计算。相关方法已成功应用于时间序列平均、分类以及深度域自适应等复杂机器学习任务。
arXiv stat.MLAI 评分3737 深度神经网络重尾权重谱为何能预测模型质量
针对深度神经网络（DNN）重尾权重谱能预测模型质量却缺乏统计原理解释的问题，研究人员从统计学视角构建概率框架，仅基于最后一层权重推导 DNN 的边际似然。实验证实该边际似然在大规模卷积 DNN 与 LLM 上均可预测模型质量。通过推导服从高温 Marchenko-Pastur 分布谱的极限对数边际似然，研究证明该极限关于重尾参数呈凸性，并导出了能经验性预测模型过拟合的最佳重尾程度。
arXiv stat.MLAI 评分3333 面向事件驱动潜在跳跃模型的扫描并行变分推断
研究者提出潜在跳跃模型（LJMs）及扫描并行变分推断（SPVI），用于建模不规则观测时间序列。该方法结合事件增强路径空间 ELBO 与三角仿射扫描，以对数时间深度实现可扩展训练。在合成系统与真实时间序列测试中，LJMs 预测精度与连续时间基线相当，且训练速度比顺序基线快 1 至 2 个数量级。
arXiv stat.MLAI 评分2727 EIAD-C2ST：面向严重样本失衡复杂数据的深度非参数双样本检验
针对图等非欧几里得复杂数据在严重样本失衡下检验性能大幅下降的问题，研究人员提出了 EIAD-C2ST 深度分类器双样本检验框架。该框架将多余的多数类样本转化为重复检验的统计证据，支持多种数据模态并结合表征摊销策略降低深度分类器的计算开销。理论上该方法具备渐近显著性水平与检验功效一致性保证，并在区块链取证等应用中验证了有效性。
arXiv stat.MLAI 评分3434 基于线性化最优传输的度量值数据稀疏字典学习：高效算法与样本复杂度
研究人员提出一种通过线性化最优传输几何将概率测度嵌入希尔伯特空间的稀疏字典学习框架，利用稀疏自编码器参数化生成快速、可扩展的稀疏有限维编码表示。该方法在超光谱图像、几何点云以及大语言模型潜空间中的文档嵌入等多种数据模态上验证了实用性。理论上还证明了该目标在宽类 $L^2$ 值测度嵌入上的泛化界，并推导出了明确的覆盖数界与收敛速率。
最多提供 50 页，更早的内容请使用搜索或主题页。