$\alpha$-散度广义后验的渐近行为研究
$\alpha$-散度正则化的广义变分推断解在重缩放后在 $L^1$ 范数下收敛至非高斯分布，其集中尺度偏离了经典 Bernstein-von Mises 定理典型的 $n^{-1/2}$。
全部AI 动态
全部动态
今日 116 条arXiv stat.MLAI 评分2626 arXiv stat.MLAI 评分3434 AutoEnergyDesign：用于能源系统设计自动优化的 LLM 智能体框架
AutoEnergyDesign 框架利用 LLM 智能体推理先前的模拟结果并借助 git 机制自动回滚未成功的变更，实现建筑能源系统设计的自动化优化。在实测负荷测试中，基于 Claude Haiku 5.5、Sonnet 5.5 与 Opus 5.5 的智能体均达到约 3.53 MEUR 的 25 年净现成本，表现优于 TPE 贝叶斯优化和演化策略基线。
arXiv stat.MLAI 评分3636 机器遗忘应以风险感知的输出控制为核心
针对偏见、毒性、模型幻觉和敏感信息泄露等缺陷，机器遗忘（Machine Unlearning）应优先聚焦具备统计保证的输出空间控制，而非参数空间的相似性。现有追求与从头重训模型参数不可区分的目标脱离实际，而输出控制能提供严谨鲁棒的目标与可解释保证，并可扩展至现代部署场景。该观点已获得实证证据与理论结果的支持。
arXiv stat.MLAI 评分2626 基于数据增强局部化的共形新颖性检测
针对变量间关系的条件新颖性检测问题，研究提出一种基于共形推断的数据增强局部化共形 p 值。该方法在核估计中结合校准与测试数据来重新校准条件分布估计器，确保了有限样本有效性并提升检测效率。配套检测算法与数据驱动带宽选择方案在严格控制有限样本错误发现率的同时增强了检测功效，已在模拟与真实数据实验中得到验证。
arXiv stat.MLAI 评分3232 扩散模型记忆效应的有效早期检测
研究提出将拆分保形校准与序列监控相结合的方法，用于无条件扩散模型去噪轨迹中训练数据记忆效应的无提示词早期检测，并有效控制虚警率。该研究在无条件 CIFAR-10 EDM 上对比了单步 Bonferroni 校准与基于最大记忆分数的轨迹级校准。实验表明，轨迹级校准能更充分利用虚警预算，在保持检测能力的同时可在更高噪声水平下实现更早检测。
arXiv stat.MLAI 评分4747 Scaling Law 估计中的罗生门效应与拟合挑战
神经网络 Scaling Law 的常规拟合存在罗生门效应，即截然不同的参数设置虽然在既有数据上拟合度接近，但在大规模外推时预测结果会出现实质性分歧。研究提出了一种确定性分支定界算法，不仅能保证获得近最优的拟合损失，还能穷举映射出所有近似最优解所对应的完整缩放曲线范围。
arXiv stat.MLAI 评分5959 论文解析主动记忆召回中的规模代价：记忆库扩大会导致误报率激增
论文指出主动记忆召回本质上属于多重检验问题，当长期助手的记忆库规模从 8 扩大至 2048 时，原本定为 5% 的误报率会剧增至 87% 到 100%。研究从理论上证明了门控命中率会随库容量增大而呈幂律衰减，解释了词汇与语义通道阈值增长的数学规律。作者据此提出了一种基于提示替换的共形门控方法，无需标签即可在保持高命中率的同时将误报率稳定在约 5%。
arXiv stat.MLAI 评分2929 基于稳定测量机制的保形预测
针对目标域缺乏参考标签的场景，研究提出利用测量分布稳定性调整连续结果保形预测区间的方法。合成高斯数据实验显示，该方法在相同平均区间长度下覆盖率优于协变量加权，且较合并标签调整缩短约 8% 的区间长度。在 Air Quality 数据集测试中，受控偏移提升了覆盖率，但在跨季节与跨年度迁移中出现明显的欠覆盖。
arXiv stat.MLAI 评分3333 函数型数据的合成数据增强：Wasserstein 风险界与基于扩散模型的条件生成
针对采集成本高昂的函数型数据，研究提出基于类别条件函数扩散模型的合成数据增强方法，并在 Wasserstein-1 距离下给出了理论风险界。理论推导出了最优合成曲线数量与合成数据超越真实数据的条件，同时界定了类别不平衡下的超额风险。在温度、高光谱和步态曲线实验中，该方法提升了分类与函数回归表现，向少数类补充样本收益最高。
arXiv stat.MLAI 评分3131 基于 Sobolev 核的强化学习 Minimax 遗憾界
该研究针对连续状态与动作空间下的 Sobolev 再生核希尔伯特空间（RKHS）情景强化学习，证明其在 $T$ 轮下的 minimax 期望遗憾界为 $\widetilde\Theta(T^{\max\{e_A,e_B\}})$。
arXiv stat.MLAI 评分3535 表征形成的信息几何学
研究提出将神经网络表征学习视为几何轨迹，利用 Bures 几何与量子 Fisher 信息量化内部结构的动态形成过程。实验发现计算所需的输入交互阶数越高轨迹越曲折，且路径曲折度能准确预测表征在持续训练中的漂移与参数微扰敏感性。此外，该形成几何还能通过表征感知优化进行主动干预与塑造。
arXiv stat.MLAI 评分3131 受约束梯度均衡：局部受限对抗环境下的可逼近性研究
该研究针对在线学习中的受约束梯度均衡（CGEQ）问题，提出了局部受限对抗者设定下的可逼近性理论框架，并给出了类 Blackwell 可接近性的充要条件。同时，研究提出了一种算法原则，可在带裕度的局部可行性条件下将窗口无悔学习器转化为 CGEQ 算法。在合成与真实数据上的实验表明，该算法能有效达成梯度均衡并满足约束。
arXiv stat.MLAI 评分2727 联合稀疏样本加权与参数估计的非凸框架
研究人员提出 SWAPE 框架，通过联合优化模型参数与样本权重，在训练模型的同时为每个训练样本分配独立权重。该框架兼容凸、弱凸和差凸等多种损失函数，并采用基于 majorize-minimize 技术的交替最小化算法求解且保证算法收敛。多项学习任务与数据异常实验表明，该方法相比基准方法能更有效降低不良数据点的影响。
arXiv stat.MLAI 评分3636 标签噪声下早停何时有益？核梯度流的相图分析
新研究通过核梯度流推导高维学习曲线与相图，表明即便存在大量不可约标签噪声，模型插值表现仍可优于早停。CIFAR10 实验显示，浅层模型后期测试误差会恶化，但更大更深的卷积网络在拟合全部随机标签后早停需求基本消失。理论分析表明，学习共享关系的线性核与拟合噪声的高阶核之间的平衡，决定了早停是否必要及插值能否达到最优泛化。
arXiv stat.MLAI 评分3030 交互环境下的近似通用预测
该研究分析了交互反馈对 Solomonoff induction 等通用贝叶斯混合预测器近似保证的影响。结果表明，无限多可计算环境的超额预测误差阶数为紧致的 $\kappa\eta\,2^{K(\mu)}$，其中 $\eta$ 为训练 KL 预算，$\kappa$ 衡量策略覆盖率。在有界回报下，价值误差受低覆盖分支进入概率与 $\eta$ 平方根项控制，适用于满足特定近似与覆盖条件的架构。
arXiv stat.MLAI 评分2727 受限参与下的 Hessian 相似性优化：下界与虚拟主节点
针对每轮最多联系 $m$ 个客户端中 $s$ 个的受限参与 Hessian 相似性优化，研究推导出了零保持局部算法在强凸二次函数上的轮数下界 $\Omega((m/s)\sqrt{\min\{\delta_a,\bar\delta/\sqrt m\}/\mu}\,\log(1/\epsilon))$。
arXiv stat.MLAI 评分3232 几何特性如何影响黎曼流形上的生成模型评估
该研究系统对比了黎曼流形上测地线、环境空间与切空间版本的 Wasserstein 及 MMD 生成模型评估指标。基于受控噪声扰动与 Riemannian Flow Matching 样本实验发现，没有任何指标始终可靠，曲率和维度会影响测量差异与噪声敏感度。作者据此提出了报告评估距离、对比指标类型及依据样本几何校准指标的实用建议。
arXiv stat.MLAI 评分3030 基于距离轮廓的度量空间因果推断
研究提出基于距离轮廓的“轮廓因果效应” $\Delta(\omega,t)$，用于在度量空间中推断分布、协方差矩阵和网络等对象值结果的因果效应。该框架结合交叉拟合双重稳健分数、高维高斯近似与乘子自举，构建出同时置信带并实现全局检验。实验表明，该检验能捕捉 Fréchet 均值遗漏的集中效应，且在存在混杂时实证检验水准保持在名义水平附近。
arXiv stat.MLAI 评分3131 高保真联邦表格数据合成框架 FITS
研究者提出联邦表格数据合成框架 FITS，针对联邦学习场景下的混合类型表格数据解决分布保真度与混合变量处理难题。该框架核心是基于局部线性回归估计条件累积分布函数（CDF）的两步联邦算法，并通过连续化方法在密度函数与 CDF 层面无损恢复离散分布。实验表明，FITS 生成的合成数据能够提升所有客户端的下游任务表现。
arXiv stat.MLAI 评分2626 Nesterov 轨迹何时最终达到局部极小？
研究探讨了 Nesterov 加速方法轨迹在变分意义下何时最终达到局部极小，并证明该问题等价于相关薛定谔算子的非负性。针对形如 f(x)=(1/p)||x||^p 的幂函数目标（p ≥ 2 且初始位置非零），研究证明该轨迹最终局部极小当且仅当 p=4。研究还借助半线性椭圆方程的稳定性理论对 p=4 这一特殊指数进行了解释。
arXiv stat.MLAI 评分2525 带噪声测量的盲目随机搜索：几乎必然收敛与收敛速率
针对带噪声测量的全局优化问题，研究提出一种结合衰减接受阈值与噪声损失滑动平均的扩展盲目随机搜索算法，并证明其几乎必然收敛至全局最小值。收敛速率分析显示，该算法在低维情形下具有几乎必然渐近上界，在高维情形下其缩放后的损失差服从精确的 Weibull 极限分布。
arXiv stat.MLAI 评分2525 随机概率分布的核均值嵌入及其主成分
研究构建了随机概率分布在再生核希尔伯特空间中的核均值嵌入分析框架，确立了分布数据核统计方法的样本渐近性质。针对随机分布的主成分，研究给出了通用收敛结果，并导出了期望服从高斯分布的正态分布未中心化协方差算子的谱分解显式表达式。该核主成分流程的性能通过数值模拟与合成孔径雷达图像的强度分布分析得到了验证。
arXiv stat.MLAI 评分3333 并非所有错误标注都同等重要：基于置信序列的高效任务感知审核
研究人员提出 ATLAS 框架，结合随时有效推理与任务感知自适应策略，以显著降低数据集标签的人工审核量。在将错误率验证至 ±2 个百分点时，该方法在肯尼亚生物多样性数据和 CIFAR-10N 基准上比随机抽样分别减少 24% 和 11% 的审核；针对 Hill-Shannon 多样性等非线性评分，达到目标精度的审核量减少了 36%。
arXiv stat.MLAI 评分3535 TGAge：基于表格基础模型与 Gompertz 定律的辅助生活机构居民表型衰老时钟
研究提出面向辅助生活机构居民的第二代表型衰老时钟 TGAge，仅基于常规临床检测数据估算生物学年龄。TGAge 结合表格基础模型与 Gompertz 定律，通过预测离散时间区间的全因死亡风险并将其转化为生物年龄加速。评估显示其在生存预测上优于既有临床指标和生物衰老时钟，且估算的年龄加速与多种衰老合并症显著相关。
arXiv stat.MLAI 评分3232 GoCo：面向误差受控基因本体注释发布的结构引导共形校准框架
GoCo 是一种结构引导校准框架，无需重新训练预测器即可在控制基因级假发现率（FDP）的同时发布更多基因本体注释。在 alpha=0.10、delta=0.50 设置下，GoCo-M 保持 FDP 受控且比 Multilabel 多发布 6.3-17.6% 的参考支持 GO 词条。
arXiv stat.MLAI 评分3131 基于成对贝尔曼验证的离线策略评估模型选择
研究者提出成对贝尔曼验证（PBV），这是一种用于离线策略评估（OPE）模型选择的无调参极小极大方法，可直接利用留出样本在候选 Q 函数和占用比估计器中进行筛选。该方法通过候选模型成对差值构建 critic，仅需有限次经验矩计算，无需额外辅助模型或单独优化 critic，并具备有限样本 oracle 保证。在 Hopper 与 Deep OPE 基准上，PBV 表现出了具有竞争力的性能。
arXiv stat.MLAI 评分2828 鲁棒强化学习的可证明高效 Q-learning 算法
研究人员提出了一种面向鲁棒强化学习（RMDP）的样本高效异步 Q-learning 算法，以解决单轨迹马尔可夫数据下的无模型学习难题。在基于全变差（TV）距离不确定集合的无限时域设定下，该算法实现最优 Q 函数 entrywise $\varepsilon$ 近似的样本复杂度显著优于现有边界。该界限仅多出 $\frac{1}{1-\gamma}$ 因子，达到近乎极小化极大最优。
arXiv stat.MLAI 评分3434 深度线性网络中增加深度可改善困难任务的训练时间缩放
最新理论研究通过对深度线性网络的分析表明，任务谱决定了网络深度对训练时间缩放的影响，增加深度能提升谱困难任务的渐进训练时间缩放指数，而简单任务的指数与深度无关。研究进一步提出由预测器范数主导的时间重参数化，可统一描述不同难度下的动态，且重参数化后的损失缩放指数与深度无关。基于基准图像数据和非线性网络的数值实验也呈现了一致的定性结果。
arXiv stat.MLAI 评分2727 用于联合组稀疏与结构平滑的知识驱动非凸平方根正则化框架
研究者提出非凸平方根正则化框架 NS$^3$R，将无需已知噪声水平的平方根损失与非凸 $\ell_{2,q}$（$0 < q < 1$）惩罚结合，同时建模组稀疏与结构平滑先验。该方法具备严格的非渐近误差界，并配套开发了具有可证明全局收敛性的双重筛选算法 DS-IRLS-th。合成与真实数据实验表明，NS$^3$R 在有限样本设置下持续优于现有 SOTA 方法。
arXiv stat.MLAI 评分2828 超越 Wasserstein 邻近度：寻找更优的迁移源
新研究提出超越 Wasserstein 邻近度的迁移源选择方法，表明更宽的源变异性有助于提升迁移效果。
arXiv stat.MLAI 评分2626 黑盒模拟器的时序差分校准
研究人员提出一种用于黑盒模拟器校准的无导数时序差分（TD）框架，利用单步转移与带噪声延续值完成参数校准。基于贝尔曼正交性，研究设计了三种随机方向有限差分 TD 算法，并确立了四种查询噪声机制下的收敛性与均方误差界。该框架还引入少次重复在线 bootstrap 与无需额外查询的第二阶段 TD 递归，用以纠正剩余价值偏差。
arXiv stat.MLAI 评分3535 身份而非配对：基于嵌入向量验证的免分布错误接受控制
研究者提出 COVE 方法，通过将测试对与校准集样本联合排序，在身份可交换性下实现了免分布的错误接受率（FAR）控制，保证边际 FAR 不超过 $\lfloor\alpha N\rfloor/N$。
arXiv stat.MLAI 评分2727 基于树模型的健康数据合成：顺序设定对比全条件设定
研究对比了基于决策树条件分布模型的顺序设定与全条件设定在合成医疗数据中的表现，通过多项风险与效用指标评估数据质量。结果显示两种设定在综合表现上并无普遍优劣：顺序合成对变量排列顺序较为敏感，而全条件设定涉及更多超参数且计算成本更高，可能限制其作为开箱即用合成方案的适用性。
arXiv stat.MLAI 评分3535 Macro Mondrian 共形风险控制
针对共形风险控制（CRC）在不平衡分布下无法有效控制罕见样本风险的问题，研究提出 Macro Mondrian 共形风险控制方法。该方法结合 Mondrian 共形预测与宏观覆盖算法，通过分类法分组并依据分组概率重新加权风险，让罕见样本获得更高权重，从而实现用户自定义分组上的平均风险控制。该方法已在两个语义分割数据集上完成验证。
arXiv stat.MLAI 评分4040 扩散网络中的噪声传输负担：为什么图像预测能优于噪声预测
新研究提出扩散网络的噪声传输负担机制，解释了有限网络下清晰图像预测表现优于噪声预测的原因。理论分析表明，数据维度 $d$ 且秩 $r<d$ 的线性输入瓶颈会使噪声预测产生 $\sigma_t^2(d-r)$ 的去噪误差下限，而图像预测风险保持有界且精确预处理可消除该瓶颈。JiT 模型在 ImageNet 上的实验完全验证了该误差下限与模型宽度的光谱特性。
arXiv stat.MLAI 评分3333 基于模拟推断中汇总统计量的内在信息率
新研究将基于模拟推断（SBI）中的汇总统计量建模为有损信道，明确了观测压缩所需的信息预算与最优分配方式。理论表明所需预算随随机后验集中而无界增长，且在有限预算下，随机汇总的失真严格低于确定性汇总。在 4 个模拟器基准上，引入二值瓶颈的神经后验估计器验证了随机瓶颈具有更优的率失真权衡，且架构排名随预算而改变。
arXiv stat.MLAI 评分2828 时空预测中多少图信息才算过多？图构建与图暴露研究
时空预测研究揭示了图构建与图暴露方式对精度的关键影响，发现同一领域图在不同集成设计下相比纯 GRU 既可能改善也可能恶化预测误差。实验表明单独延迟集成效果不足，而引入融合门控在美国州失业率、交通速度和电力需求三项任务中均降低了平均误差。在固定延迟门控集成下，基于残差相关的图误差最低，表明图构建必须与集成机制协同评估。
arXiv stat.MLAI 评分3434 HIFI：面向基础模型的高效统计推断框架
HIFI 是一种面向基础模型的高效统计推断两阶段微调框架，相比直接重抽样可减少高达 91.9% 的训练算力。该框架先通过单次适配控制估计偏差，再利用轻量 PEFT 拟合残差来量化变异性，支持非参数 bootstrap 等多种重抽样方法。其在视觉和文本任务中支持数千万至超过 100 亿参数的模型，可提供精准点估计与良好校准的置信区间。
arXiv stat.MLAI 评分2929 潜在位置随机图的联合独立性检验
研究人员提出图希尔伯特-施密特独立性准则（GHSIC），用于检验 $M \ge 2$ 个潜在位置随机图（LPRGs）的联合独立性。该方法依托邻接矩阵的谱分解，无需选择核函数及其超参数，证明其估计收敛速率可达 $\tilde{O}\left(n^{-\frac{1}{3}}\right)$。实验在合成数据以及自然语言感知的大脑功能连接子网络分析中验证了该估计器的有效性。
arXiv stat.MLAI 评分2727 基于投影观测的分布鲁棒决策认证
标量测量无需识别潜在协方差即可在有限高斯投影实验中确定鲁棒决策，研究提出了能返回决策或未决结果的置信集认证机制。该方法通过标量轮廓将非线性风险比较转化为凸内部问题，并证明了可靠性与固定检查点认证保证。在 7 个合成算例中，联合校准矩区域给出的充分预算为显式期望样本信息下界的 21 至 52 倍，且在 1,900 次模拟流中实现了零决策错误。