跳到正文

全部动态

今日 23 条
10月22日周四
  1. arXiv stat.ML36

    掌握模型拟合:InterModel Vigorish 在可解释机器学习中的应用

    研究人员将 InterModel Vigorish(IMV)引入机器学习领域,通过将拟合度差异表示为相比参考模型的预期博弈优势来解释概率拟合。该研究提出了用于特征归因的 SHAP-IMV、多分类评估的 Multi-IMV 和消融分析的 Ablate-IMV,并在表格、图像、传感器序列和图数据上通过 10 个随机种子完成评估。相关代码已通过开源库 imvpy 和配套 Notebook 发布。

  2. arXiv stat.ML35

    DiT 如何去噪?从注意力与 MLP 的“聚合器-预测器”视角解析

    DiT 被研究提出可视为输入自适应的局部去噪器,其中 AdaLN 调节的注意力机制充当上下文聚合器,MLP 承担 patch 预测角色。理论证明高斯马尔可夫随机场先验下去噪误差随上下文半径呈指数衰减。在 CelebA64 实验中,使用共享内存 patch 预测器替代 DiT MLP 取得了具竞争力的生成性能,跨数据集移植亦验证了各组件分工。

  3. arXiv stat.ML29

    非对称无似然假设检验研究

    研究者提出了非对称无似然假设检验(LFHT),在参考分布样本预算不相等的情况下给出了可行样本三元组的对数级刻画,证明不等预算可带来多项式级样本节省。例如在常数区分度下,基于 P 的 n 个样本和 Q 的 n^(3/4) 个样本,仅需 D 的 O~(n^(1/4)) 个样本即可完成检验,优于现有基准的 Ω(√n)。

  4. arXiv stat.ML36

    视觉-语言-动作(VLA)策略的事后认知不确定性估计

    研究人员提出一种面向视觉-语言-动作(VLA)策略的事后核方差头方法,无需梯度更新即可直接从单模型嵌入中估计认知不确定性。在 LIBERO-10 基准上对 SmolVLA 的测试显示,该方法在主动学习演示获取与求助代理上表现媲美双模型集成,同时将不确定性评分时间最多缩短约 50 倍并大幅削减设置成本。

  5. arXiv stat.ML35

    用于可解释分子性质预测的片段级图编码方法

    研究人员提出一种基于 BRICS 分解的分子片段级图编码方法,将具备合成意义的分子片段作为图节点,实现官能团级别的模型解释。在 4 种图神经网络架构和 4 项任务测试中,该方法在图规模缩小约 5 倍的情况下保持了与原子级相当的准确率。

  6. arXiv stat.ML36

    BRIDGE:用于拦截模型更新中虚假提升的准入检验机制及回顾性临床评估

    研究人员提出了与模型无关的更新准入机制 BRIDGE,通过交叉拟合和 Bootstrap 下界约束来拦截验证集上表现更好但在新数据上失效的虚假提升。测试显示,该机制在 12 项回顾性临床任务中将虚假提升率从朴素规则的 20.0% 降至 0%,在合成任务和各类数据集上也均降至 1.7% 以下。

  7. arXiv stat.ML35

    基于非线性薛定谔桥与分支扩散的生成建模

    研究人员提出基于正反向偏微分方程的新型生成建模框架 SBNL,将经典薛定谔桥扩展至非线性系统。该方法结合分支扩散与半线性 PDE 的概率表示设计求解算法,具备高度易并行特性并可扩展至高维空间。团队在 MNIST 和 FFHQ 人脸图像合成等任务上验证了有效性,该框架同时统一了扩散模型与基于分数的生成模型。

  8. arXiv stat.ML35

    用于低 NFE 生成流的密度级反向误差分析

    研究者提出了用于低 NFE 生成流 ODE 采样的密度级反向误差框架,可识别求解器修正方程缺陷中改变边际分布的分量。该方法能导出感知求解器阶数的算力分配规则,并通过规范自由度选取数值表现更优的速度场表示。在预训练 CIFAR-10 EDM 概率流 ODE 实验中,密度感知分配持续改善了低 NFE 区间的固定步长 Euler 采样表现。

  9. arXiv stat.ML34

    研究提出面向长程智能体的效应边际策略优化算法 EMPO

    研究者针对 LLM 智能体在多轮强化学习中不同文本表述导致信用与策略更新错位的问题,提出了效应边际策略优化算法 EMPO。EMPO 通过构建效应级替代目标联合更新不同文本表述,在保留原始信用信号的同时兼容轨迹级与单步信用估计,且无需额外的 critic 或 rollout。在 ALFWorld、WebShop 和 Sokoban 上的实验表明,EMPO 在任务表现和学习效率上均超越了基线方法。

  10. arXiv stat.ML35

    掼蛋自我博弈中的“预测-优化”鸿沟

    掼蛋自我博弈研究揭示了强化学习中的“预测-优化鸿沟”,证实具备预测效用的比赛进展信号无法提供可靠的优化方向。研究在 DanZero 风格的蒙特卡洛自我博弈中引入冻结胜率预测器变化量 $\Delta\Phi$ 作为监督干预;尽管单个检查点大幅超越基准,但在方法层面预注册的 5 个复现种子无一为正,汇总的 10 种子区间包含 0。

  11. arXiv stat.ML36

    ExpEvolve:面向开放式科学发现的经验结构化与复用框架

    研究者提出进化编码框架 ExpEvolve,通过从程序中提取解释评分差异的高层“想法因子”,将概念层级的控制引入演化过程,以指导经验利用并在陷入瓶颈时引导探索。在 11 项开放式数学任务中,该方法显著提升了最终性能,并将样本效率最高提升至 5.0x。相关收益还成功迁移至另外 4 个 LLM 以及 MLS-Bench 的 6 项机器学习任务上。

  12. arXiv stat.ML36

    近似 Solomonoff 归纳:论学习通用预测器的鲁棒性

    关于近似 Solomonoff 归纳法的最新研究给出了通用预测器误差的最坏情况紧确界。在先验概率为 $w_\mu$ 的环境中,近似预测器的超额误差紧确界为 $\Theta(\eta/w_\mu)$,表明在小先验概率下性能会显著下降,但按先验加权的平均超额误差仅为 $O(\eta)$。论文还建立了分布偏移定理,并将鲁棒性分析拓展至与神经网络和 Transformer 相关的有限采样设置。

  13. arXiv stat.ML25

    基于能量核的最大均值差异(MMD)的跳跃修正 Wasserstein 梯度流研究

    研究者提出了一种针对能量核($K(z)=-|z|^q$, $0<q<2$)最大均值差异(MMD)的跳跃修正 Wasserstein 梯度流,并在亚临界密度和有限矩假设下证明了全局适定性。引入的跳跃机制将质量转移至变分更小的区域,并与输运项耗散相同的 MMD 能量,确保具有有限二阶矩的数据无需额外假设即可收敛至目标分布。研究还构建了能量非增且无碰撞的粒子过程,并给出了定量平均场估计。

  14. arXiv stat.ML25

    从公共信息到典型相关分析:连接信息论、信号处理与机器学习

    一篇发表于 Entropy 的 100 页长篇教程系统梳理了无监督提取多观测公共分量的理论与方法,打通了信息论、信号处理与机器学习三个领域的长期割裂。内容涵盖 Gács-Körner 与 Wyner 的公共信息理论、Hotelling 的经典 CCA 及其多视角扩展,以及基于子空间方法的盲多用户接收机设计。

  15. arXiv stat.ML37

    审视推理时模型偏移下的语言模型符合预测

    NeurIPS 2026 入选研究指出,量化模式与推理温度等配置变化会引发“推理时模型偏移”,破坏语言模型符合预测(CP)的可交换性,导致传统评估大幅高估部署时的覆盖率。该研究在 8 个语言模型、4 个有限标签基准和 12 种推理配置下进行评测,证实该影响具有异质性,并呼吁将推理配置列为符合预测评估的一等实验维度。

  16. arXiv stat.ML25

    回溯直接效应、间接效应与总效应研究

    研究者提出了一种基于回溯反事实的因果效应构建方法,用于替代依赖跨世界干预反事实的自然直接与间接效应。该方法无需直接干预处理变量或中介变量,而是利用回溯条件分布构建满足特定处理-中介约束的替代外生状态。由此得出了回溯直接效应、间接效应和总效应,并同样适配了群体干预效应。

  17. arXiv stat.ML38

    所有可学习的分布类实际上都支持差分隐私学习

    新研究证明了所有在总变差距离下能以有限样本达到任意小目标误差的可学习分布类,在 $(\varepsilon, \delta)$-差分隐私约束下同样可以用有限样本实现任意小目标误差学习。该成果证实了 Ashtiani 猜想。此前 Bun 等人的研究在固定目标误差的定义下曾弱反驳该猜想,而本研究表明在标准可学习性定义下该猜想完全成立。

  18. arXiv stat.ML36

    面向大语言模型推理高效探索的重试感知策略优化 ReAPO

    研究人员提出大语言模型推理优化算法 ReAPO,通过改进 GRPO 引入重试感知信用分配,在不奖励前序失败的前提下强化成功重试。在 0.6B 至 4B 的 Qwen3 与 OLMo-2 模型及 8 个数理基准测试中,ReAPO 首答表现全面超越 GRPO。在 Qwen3-0.6B 上,其达到峰值准确率生成的 token 较组大小或步数翻倍的 GRPO 分别减少 39% 与 31%。

  19. arXiv stat.ML34

    Interdomain Attention:超越 token 级别的键值记忆架构

    研究者提出 Interdomain Attention(IA)混合架构,在同层内融合注意力与基于 SSM 的循环记忆,保持计算效率的同时近似点积注意力。在 125M-1.3B 文本预训练模型中,IA 在匹配记忆大小下优于 S4D 基线,并在困惑度和常识推理准确率上超越传统 Transformer。在基于 Caduceus 骨干的基因组数据测试中,IA 同样持平或超越原 SSM 架构。

  20. arXiv stat.ML29

    非平稳多臂老虎机中当前效应推断的代价

    针对非平稳多臂老虎机中奖励最大化与当前效应推断的冲突,研究团队提出了 TRACE 算法并建立了匹配的极小极大动态遗憾界。在 Hölder 光滑奖励设定下,该算法在置信区间宽度不超过 $w$ 时清晰分离了奖励学习代价与刷新当前效应估计的必要成本。扩展引入的经验 Bernstein e-process 还支持根据实际预测误差自适应探索。

  21. arXiv stat.ML32

    双层线性网络中的静默对齐:高维视角

    研究人员在高维极限下分析了双层线性网络的梯度流,推导出权重矩阵在任意时刻的渐近谱分布。在小初始化极限下,网络表现出「静默对齐」现象:奇异方向在常数阶时间尺度内完成对齐,而奇异值和经验损失仍维持初始值不变。随后在对数时间尺度上,奇异值逐渐脱离零并带动损失下降,呈现出鞍点到鞍点的连续谱学习动态。

  22. arXiv stat.ML32

    Wasserstein 空间中的主成分分析提升:Lifted PCA

    研究人员提出 Lifted PCA,通过凸扩展泛函将欧氏主成分分析(PCA)在最优传输框架下扩展至 Wasserstein 空间。该方法基于 Stiefel 与 Grassmann 流形推导出对应广义代价 Wasserstein 重心的等价表述,并与多边缘最优传输建立了等价联系。此外,研究证明了经验估计量的统计一致性,设计了计算算法并通过分布数据集实验验证了其有效性。

  23. arXiv stat.ML30

    基于预训练上下文分位数回归的残差因果发现

    研究人员提出因果发现方法 Loscar,将 RESIT 框架扩展至位置尺度噪声模型(LSNMs),通过分位数回归估计条件均值与尺度,并支持将预训练表格基础模型用作插件式估计器。在双变量和多变量因果发现基准测试中,该上下文分位数回归方法的表现显著优于可行广义最小二乘法(FGLS),在多变量因果场景下优势尤为明显。

  24. arXiv stat.ML28

    通过 Stein 算子估计未归一化模型的统一方法

    该研究提出了一种将真评分规则与 Stein 方法相连接的统一框架,用于未归一化模型的参数估计。该框架构建了一类涵盖得分匹配、比率匹配、伪似然以及噪声对比估计(NCE)的真评分规则,并证明其能自然诱导 Stein 算子。借助诱导 Stein 算子的几何视角,该工作为相关估计量的渐近效率提供了统一表征。

  25. arXiv stat.ML41

    当思考化为记忆:统一上下文学习与微调决策的信息论法则

    研究人员提出了首个经证明的判定准则,基于信息价值精确法则决定未见数据应放入预训练模型的上下文还是权重中。该法则通过在保留查询上节省的编码长度量化信息价值,并通过随时有效检验控制误差;在针对 GPT-2 缓存与微调的 32 项对比中,该检验在 64,000 条查询流里正确选出 61,948 次,空流错误率至多 3.3%。

  26. arXiv stat.ML34

    基于内部引导的倾斜扩散模型采样方法

    研究者提出一种用于倾斜扩散模型采样的“内部引导”(internal guidance)方法,不修改基础去噪器输出,而是通过改变其评估输入点来实现采样。针对超立方体上的离散分布,线性倾斜密度的去噪器可严格等价为对输入进行平移和缩放后的基础去噪器。该方法通过在训练中加入随机对角缩放,使单个去噪器网络无需微调或外部引导项,即可支持二元奖励倾斜、类别标签引导和内容填充采样。

  27. arXiv stat.ML34

    上下文强化学习是后验采样器吗?一项实证研究

    一项最新研究探讨了上下文强化学习(ICRL)在实践中是否属于贝叶斯后验采样器。研究人员针对贝叶斯后验采样器设定了充分统计量不变性与鞅性质两个必要条件,并构建了统计假设检验。在正态分布、伯努利分布以及线性老虎机实验中,受测的 DPT 及其变体均违背了这两个条件,表明 ICRL 在实际中可能并未表现为贝叶斯后验采样器。

  28. arXiv stat.ML34

    高斯测度下神经网络的深度分离研究

    研究者重新探讨了高斯测度下的神经网络深度分离问题,证明在 $d$ 维标准高斯测度下,存在一个径向函数能被多项式规模的 3 层 ReLU 神经网络以 $L^2$ 误差近似,而具有次指数有界权重的 2 层网络则需要至少指数级的规模。该结论基于埃尔米特展开高频特性的通用证明,且所有定理、引理与推论均已在 Lean 4 中完成形式化验证。

  29. arXiv stat.ML33

    反向 Gold 定理:基质有界对比学习器仅凭正样本实现语言识别

    研究者提出了与 Gold 定理相反的正向结论,证明基于先验递归对比算子和 InfoNCE 式对比估计的有界判别评分器,仅凭正数据即可实现 PAC 条件识别。该学习器自行构建负样本且无需计算全局归一化常数,样本复杂度与容量、轨道大小及 1/ε 呈多项式关系。在间隔条件下该排序可提升为全局成员分类器,并能组合为免归一化的 Metropolis–Hastings 生成器。

  30. arXiv stat.ML26

    跨门店借力:基于选择模型的收益管理迁移学习

    研究者针对零售商本地需求数据匮乏的问题,在多项Logit(MNL)需求模型下提出一种融合单店估计与跨店汇总信息的收缩估计器。该研究利用自协调类性质建立了有限样本性能保证与下游选品及定价决策的遗憾界。欧洲某服装零售商数百家门店的实证表明,该收缩方法在样本外产品优先级排序和收入捕获上均优于单店估计与完全数据合并。

  31. NVIDIA Blog46

    企业如何利用 NVIDIA DSX 突破电力瓶颈

    全球企业正采用 NVIDIA DSX AI Factory 平台打破电网与算力孤岛,将电网、设施与 AI 工厂作为统一系统进行协同规划、仿真与运行。通过 DSX Sim、DSX Flex 等组件,企业可在开工前联合仿真电力与散热,并将 AI 工厂转化为柔性电网资产。