跳到正文

#论文/研究

今日 0 条
10月15日周四
  1. arXiv stat.ML35

    Neural Wasserstein Splines:用于轨迹推断的表征不变二阶先验

    Neural Wasserstein Splines(NWSP)提出了一种在 Wasserstein 平滑先验下学习连续群体演化曲线的方法,无需数值积分即可直接生成任意时刻的样本。该方法通过标量势字典构建内蕴 Wasserstein 加速度的有限维代理,并具备可证明的表征不变性。在合成与单细胞基准测试中,NWSP 在 16 个测试设置中有 11 个位列前两名,并在 13 个设置中优于无正则化样条。

  2. arXiv stat.ML33

    基于通用函数近似的高效上下文部分监控

    研究人员提出了一种支持通用函数近似的高效上下文部分监控框架,基于在线回归预言机估计结果分布,并在全局与局部可观测设定下实现了关于 $T$ 的最优悔值阶。该方法还包含一个可结合离线回归预言机的变体,并在合成标签高效预测博弈及 LLM 路由任务中展现出优于现有方法的性能。

  3. arXiv stat.ML36

    基于正无标记学习的扩散模型渐近精确负向引导方法

    研究者提出一种基于正无标记学习(Positive-Unlabeled learning)的扩散模型负向引导方法,能直接从显式目标概率密度中进行采样。该方法在扩散轨迹上进行轻量在线训练来估计样本属于非期望条件的概率,并利用序贯蒙特卡罗(Sequential Monte Carlo)修正漂移偏差,在粒子极限下达到渐近精确。实验表明,该方法在高斯混合模型及预训练图像生成场景中均优于现有方法。

  4. arXiv stat.ML33

    从全局收敛到尾部收敛:α-稳定得分生成模型的动力学分析

    研究者提出了针对尺度保持 α-稳定得分生成模型的非渐近收敛性分析,涵盖紧支撑与幂律目标分布。在 p-Wasserstein 距离下,该模型与布朗扩散动力学的初始化误差均呈指数衰减,表明全局收敛性并未根本区分两者。但在尾部分布上出现显著差异:稳定动力学会产生指数为 α 的幂律尾部,且仅当 α=ν 时才能实现渐近正确的极端分位数缩放。

  5. arXiv stat.ML33

    用于策略优化的函数空间时间自蒸馏方法 FSPO

    FSPO 是一种面向策略优化的单策略自蒸馏框架,通过将稀疏历史 next-token 分布存为固定时间目标,无需维护常驻教师模型即可提供稳定指导。在推理与工具调用基准中,FSPO 在 5-hour 训练预算下取得最高平均准确率,比最强基准提升约 4% 个百分点。在 Olmo3-7B-Instruct 上,其峰值显存从约 70 GB 降至 56 GB。

  6. arXiv stat.ML27

    零阶非凸优化的全局联合下界研究

    该研究在无限制全空间设定下证明了零阶非凸优化的全局联合下界。针对平滑随机非凸优化,研究建立了 $\Omega(dL_0^2\min\{\Delta H,L_0^2\}/\epsilon^4)$ 的标量预言机下界,并通过平滑归约证明了 Goldstein 平稳性对 $(d,\delta,\epsilon)$ 依赖的联合极小极大最优性。

  7. arXiv stat.ML27

    随机洗牌随机梯度下降(RR-SGD)的大步长最后迭代收敛性

    针对凸且 L-光滑分量的无约束有限和优化问题,该研究建立了标准随机洗牌随机梯度下降(RR-SGD)最后迭代的期望目标差距界。在常数步长满足 $0<\eta\lesssim 1/(L(1 + \log(nK)))$ 条件下,该方法通过在随机比较点保留采样偏差,成功消除了步长限制中显式的 $1/n$ 因子。结合现有小步长界,该结果在对数因子范围内匹配了对应的平均迭代收敛率。

  8. arXiv stat.ML27

    模型误设下受测量限制线性回归的子数据选择

    研究人员提出了针对线性回归子集选择的新框架 ELOS(Expected Loss Optimal Selection),以解决因响应变量获取成本高昂且可能存在模型误设时的样本测量选择问题。该方法以预测期望损失为目标,生成仅依赖协变量信息的 A-optimality 型准则,在选择阶段无需任何响应观测值。模拟研究和真实数据应用表明,ELOS 在多种场景下均具有出色的预测表现与稳健性。

  9. arXiv stat.ML38

    嵌入几何对 LLM 路由的影响:失效模式探究与泛化提升

    新研究发现语义嵌入的邻近特征无法可靠指导未知任务的模型选择,导致 LLM 路由泛化受限。为此,研究团队提出运行 Qwen2.5-7B-Instruct 的部分前向传播,取其深层最后 token 的 hidden state 作为替代特征表征。配合 kNN 等简单分类器,该方案超越了所有语义嵌入基线,并在 RouterBench 上击败了近期基于 hidden states 的 SOTA 路由器。

  10. arXiv stat.ML44

    自适应对抗下具身与Agentic AI统计安全保证的局限性

    研究指出有限安全评估无法防范在获得认证前保持正常、认证后才激活攻击的自适应对抗者。在RoCo协作模拟中,策略切换导致认证后36个回合中出现34次违规;AgentDojo测试中每4个任务延续会增加1.98次安全违规。采用永久撤销机制的混合似然比监控器可有效限制超额风险,在对抗控制下将每24个任务的违规数从12.00次降至3.81次。

  11. arXiv stat.ML26

    网络关联数据的概率网络线性回归框架

    研究者提出了一种用于网络关联数据的概率网络线性回归分析框架,在兼顾网络形成随机性的同时融合了同伴响应加权与网络内聚性捕捉。该方法采用两步似然流程,先估计网络结构再拟合响应模型,并证明了稀疏网络下的网络恢复保证及回归估计量的一致性与联合渐近正态性。仿真研究与外交网络数据分析验证了该方法的估计性能与实际应用价值。

  12. arXiv stat.ML27

    零和博弈学习中的 Thompson 采样研究

    该研究探讨了具有高斯 bandit 反馈的未知有限双人零和矩阵博弈中的 Thompson 采样(TS)。在中心化自我对弈下,对于具有唯一样本纳什均衡的任意固定零和博弈,其期望累积对偶间隙达到 $O(\sqrt T)$,在纯策略均衡下更可提升至 $O(\log T)$。研究还给出了匹配的极小化极大下界与特定实例对数下界,实验验证了理论预测的收敛速率。

  13. arXiv stat.ML34

    后验频率与不拟合的代价:对 Feldman 记忆下界理论的修正

    研究者针对 Feldman 提出的记忆下界条件形式与平均形式构造出精确的三点反例,指出原公式中建议的惩罚与实际过量风险之比会呈指数级增长,从而排除了通过通用正常数因子进行修复的可能。在保留原模型的前提下,论文利用全样本后验概率推导出精确的替代下界,其在可交换性假设下取决于重数及完整的频率分布。

  14. arXiv stat.ML34

    神经网络的最小宽度与实射影空间的浸入

    研究人员探讨了在紧子集一致收敛拓扑下逼近任意连续函数所需的深度神经网络最小宽度。证明表明,在激活函数连续且单调的假设下,只要实射影空间 $\mathbb{RP}^{n-1}$ 能光滑浸入 $\mathbb{R}^n$,其最小宽度至少为 $n+\min\{n,m\}$。当 $n$ 等于 2、3、4、7 或 8 且 $1\le m \le n$ 时,ReLU 网络的最小宽度为 $n+m$。

  15. arXiv stat.ML31

    混合泊松扩散模型及其在后验采样中的应用

    研究人员提出了混合泊松扩散模型(MPDM),通过多元计数过程驱动的泊松加噪动力学替代传统高斯加噪过程。该方法专门针对观测数据呈离散泊松分布的逆问题,衍生出多种基于 MPDM 的后验采样算法。在实际泊松逆问题上的评估表明,该框架能良好适配此类问题的后验采样需求。

  16. arXiv stat.ML30

    Weighted Adjoint Matching:基于时变控制成本微调 Flow Matching 模型

    研究者提出 Weighted Adjoint Matching 方法,用于在给定可微奖励的情况下微调预训练扩散模型或 Flow Matching 模型。该方法通过在控制成本上引入时变权重,在生成早期设置高成本以保留粗粒度特征的语义平衡与多样性,后期设置低成本以微调细节并提升奖励。高斯混合模型和 MNIST 实验表明,该方法在奖励与模态平衡之间取得了优于 Adjoint Matching 的权衡。

  17. arXiv stat.ML27

    连续马尔可夫链伪谱隙的极小化极大估计及其在经验集中不等式中的应用

    研究者提出了针对紧致连续状态空间马尔可夫链的伪谱隙估计器,可仅凭单条轨迹观测值完成估计。在转移算子具有 Lipschitz 密度的马尔可夫链类上,该估计器在对数项意义下达到极小化极大最优。结合 Bernstein 不等式,该成果可推导出经验集中不等式,并在无伪谱隙先验知识的情况下,为具有马尔可夫奖励的 rested bandits 构建了类似 iid 情况遗憾界的 UCB 算法。

  18. arXiv stat.ML29

    过参数化加权 MMD 的优化景观研究

    研究探讨了加权原子测度下最大均值差异(MMD)的优化景观,在 1D 高斯核下证明了足够多的粒子可确保所有局部极小值的 MMD 任意小。任何 MMD 显著大于零的驻点在粒子位置的未加权梯度流下均不稳定,该结论在权重受限于单纯形或每步进行优化时均成立。若目标分布为有限支撑,超出明确粒子阈值后将不存在伪局部极小值。

  19. arXiv stat.ML33

    基于文本信息的训练数据过滤方法以提升虚拟流量计性能

    研究人员提出一种基于大语言模型(LLM)的文本信息数据过滤方法,通过结合非结构化运行日志与表格传感器数据来过滤训练集,提升虚拟流量计的性能。该方法先跨模态进行上下文异常检测,再生成二进制掩码过滤下游回归模型的训练数据。在合成油气数据集的实验中,多模态过滤将下游 MAPE 从纯传感器过滤的 7.1% 降至 5.4%。

  20. arXiv stat.ML38

    System 1 模型的校准与风险预算决策研究

    研究针对缺乏人工兜底的 LLM 工作流与智能体二元决策场景,提出在不确定时采用保守策略并控制假阴性风险的框架。在涵盖审核、安全与重排序的 6 个数据集评测中,朴素阈值选择基准在约半数设定下超出了目标风险,而具备有限样本统计保证的 Learn Then Test(LTT)超标率仅为 7.8%。该结果表明仅依赖类概率接口不足以支撑部署决策。

  21. arXiv stat.ML36

    用于概率图生成的序列符号框架 SNACK

    研究者提出了概率图生成字符串表示框架 SNACK,通过编码下三角邻接矩阵的非零项将图线性化,使序列模型能够生成包含离散节点和边特征的图。该设计支持无效 logit 掩码以施加结构约束,保证生成序列 100% 有效,并支持基于字符串的 GFlowNet 训练。实验表明其具备有竞争力的采样质量,显著提升了 GFlowNet 训练吞吐量。

  22. arXiv stat.ML34

    基于风险控制的机器学习原子间势能 DFT 选择方法

    研究人员提出一种基于共形风险控制(CRC)的框架,用于解决机器学习原子间势能(MLIP)与密度泛函理论(DFT)之间的回退选择难题。该方法利用轻量级预测器评估能量、平均力与最大力的分歧得分,并校准出阈值,确保未选配置的 MLIP 误差低于用户设定的预期误差比例 $\alpha$。

  23. arXiv stat.ML25

    用于霍克斯过程背景强度估计的投影 Wasserstein-Fisher-Rao 流

    研究者提出一种基于 Wasserstein-Fisher-Rao 几何的似然变分方法,用于在触发机制已知时估计霍克斯过程的背景强度。该方法针对一阶变分属于分布值的特点构建了分布动力学框架,并通过向统计流形投影赋予其有限维意义,同时证明了经验投影方程可测估计量的条件一致性定理。最终,该研究将该方案特化至高斯混合流形,导出了显式的有限维计算方案。

  24. arXiv stat.ML32

    后验采样的内在隐私性研究:统一的 Rényi 散度分析框架

    研究者提出了一个基于 Rényi 散度的统一分析框架,用于刻画从贝叶斯后验分布中采样的内在差分隐私(DP)保证。该理论表明单次后验采样(OPS)的隐私损失由单条记录对数似然比的后验指数矩决定,并在一致有界、次高斯或次指数尾部条件下建立了显式 DP 保证。该框架适用于分类似然、高斯共轭对及广义线性模型等,不仅提供了更紧的隐私损失界,还拓展了支持严格隐私分析的贝叶斯模型范围。

  25. arXiv stat.ML34

    基于多重不可靠标签的噪声标签校准方法

    针对医疗标注和众包场景中不可靠标注导致的校准评估偏差,研究提出仅利用含噪标注评估并重新校准二分类预测器的方法。该研究提出了带非渐近偏差界限的噪声校正期望校准误差指标 NC-ECE,并设计了基于损失和直方图的事后重新校准算法。半合成基准实验显示,NC-ECE 能紧密贴合真实标签参考值,且该重校准方法可显著改善潜在真实标签的校准表现。

  26. arXiv stat.ML29

    状态匹配序列共形预测方法 SMSCP

    研究者提出状态匹配序列共形预测(SMSCP),通过前置目标信息构建显式单侧局部线性状态,并利用状态相似性筛选匹配的历史校准评分集合。在太阳辐射和共享单车需求基准测试中,SMSCP 的区间评分优于基于时间邻近、加权、自适应及 HopCPT 的对比方法。在 6 个基准中的 5 个上,该方法比 ResCP 实现了更接近 0.90 标称水平的覆盖率。

  27. arXiv stat.ML34

    多敏感属性分布公平性:联合 Wasserstein 审计与 Shapley 分配

    研究提出一种基于一维 Wasserstein 几何的多敏感属性分布公平性框架,解决单属性审计易忽略交叉性差异的问题。该方法利用条件分位数过程诱导信息博弈,通过鞅分解将联合差异精确展开,并借助 Shapley 值实现无偏序的敏感属性归因。研究还提供了固定网格估计器与置换校准,并在合成数据集与 ACSIncome 上完成了验证。

  28. arXiv stat.ML31

    因果发现可识别性研究:从完全数据推广至缺失数据场景

    研究人员提出了将完全数据因果发现算法的正确性保证扩展至缺失数据场景的理论框架,建立了因果图在包括非随机缺失(MNAR)等类别下保持可识别的通用充分条件。在无未观测混杂因素的前提下,当缺失机制无因果交互、变量不直接导致自身缺失,且满足忠实性或广义线性模型假设时可识别性成立。基于该理论,团队针对加性噪声模型(ANM)推出了两种渐进正确的因果图恢复与参数估计算法。

  29. arXiv stat.ML29

    基于扩散模型正则化 Stein 变分梯度下降的结构感知贝叶斯全波形反演

    研究人员提出一种通过扩散模型正则化退火 Stein 变分梯度下降(ASVGD)的贝叶斯全波形反演(FWI)方法。该方法将训练好的扩散模型作为隐式正则化与地质投影算子,引导粒子速度模型趋向合理分布,克服了传统高斯或平滑等手工先验的局限。数值实验表明,该方法可生成更符合地质特征的均值模型,有效抑制非物理伪影,并提供更集中于结构复杂区域的不确定性量化。

  30. arXiv stat.ML25

    Student Copula 马尔可夫网络

    研究人员提出了 Student Copula 马尔可夫网络,将无向概率图模型扩展至非高斯数据。该研究通过 copula 密度刻画了无向图模型的成对马尔可夫性质,并推导出 Student Copula 马尔可夫网络的必要条件。同时提出的 ECM 算法可实现惩罚极大似然估计与图结构恢复,仿真实验验证了其参数估计与图选择的有效性。

  31. arXiv stat.ML32

    用于多治疗方案个体化治疗规则学习的神经监督聚类方法

    研究者提出了非线性监督聚类融合(NSCF)框架,通过神经 Q-learning 结合共享非线性协变量表征与低维治疗嵌入向量,用于在多治疗方案下学习个体化治疗规则(ITR)。该方法利用成对融合将具有相似对比的治疗方案分组,生成可解释的分区。在非线性精确共享模拟中,NSCF 相比强神经基线降低了遗憾值;在黑色素瘤异种移植应用中,也提升了平均策略价值。

  32. arXiv stat.ML33

    用于传染病模型参数估计的共形化物理信息弱回归

    研究者提出了用于传染病模型参数估计的物理信息弱回归(PIWR),通过时间积分避免对数据求导并结合分割共形预测提供不确定性量化。在 11 个疾病信息神经网络(DINN)基准模型上,PIWR 或 PIR-FD6 的精度比 DINN 结果高出 1 到 4 个数量级,单次拟合仅需约 1 毫秒且 90% 区间在全部 88 种设置中达到 87%–92% 的覆盖率。

  33. arXiv stat.ML34

    离散扩散模型在稀疏性假设下具有 Minimax 最优性

    离散扩散模型在稀疏性假设下被证明具有 Minimax 最优的统计收敛速率。研究通过分析基于正则化 score-entropy 目标函数的非参数估计器,表明该模型能够内生适应稀疏性。所提出的正则化方法改编自用于分类的标签平滑技术,且无需事先知晓稀疏度参数。

  34. arXiv stat.ML34

    基于可复用局部后验的半均摊贝叶斯推理

    研究者提出一种基于可复用局部后验的半均摊贝叶斯推理方法,通过将参数划分为更小的块并利用条件独立性来推断高维复杂模型。该方法仅对计算昂贵或重复更新的参数块训练神经估计器,通过马尔可夫链交替执行神经估计器的直接采样与其余变量的传统更新。神经更新无需计算似然或接受-拒绝步骤,且同一估计器可在具有相同条件结构的块与数据集之间复用。

  35. arXiv stat.ML26

    随机沃尔泰拉方程的 Wong-Zakai 收敛性与 FNO 算子学习研究

    研究针对描述具记忆随机系统的随机沃尔泰拉积分方程(SVIE),确立了布朗运动分段线性逼近下的 Wong-Zakai 收敛定理。该理论为使用镜像填充傅里叶神经算子(FNO)学习从初始条件及驱动噪声到解轨迹的解算子奠定了基础。数值实验表明该方法具备高预测精度,能泛化至比训练时更精细的时间网格,并评估了填充对计算成本的影响。

  36. arXiv stat.ML29

    延迟复杂度维度:带延迟与截断标签的学习理论研究

    研究人员提出了延迟复杂度维度(DCD),用于刻画标签存在随机延迟且在观察窗口 $W$ 外被截断时的 PAC 学习样本复杂度。所有学习器至少需要 $\Omega(\mathrm{DCD}/\varepsilon^2)$ 个样本,理论推导表明适度的观察窗口在固定收集期下表现可优于即时标签。合成数据与 Criteo 转化日志实验验证了相关预测。