跳到正文

#论文/研究

今日 62 条
10月19日周一
  1. arXiv cs.AI26

    基于智能体的农业生态模型决策规则敏感性分析

    研究团队针对高分辨率农业生态建模平台 MAELIA,提出了一种基于随机森林监督的 HSIC-ANOVA 敏感性分析方法。该方法将决策规则编码为包含类别与数值变量的分层设计空间,能够原生在树结构上对主效应和交互作用进行排序。应用于氮淋溶、土壤有机碳变化和产量预测等模拟时,该方法可提供具备可解释性的决策分析。

  2. arXiv cs.AI40

    ECHOES:结合递归历史压缩与特权策略内蒸馏的长程 GUI 智能体框架

    研究团队提出长程 GUI 智能体框架 ECHOES,采用 CTA(压缩-思考-行动)格式递归更新文本历史状态,并通过特权多图教师模型进行 token 级策略内蒸馏。配套的 PMF Gap 引导强化学习动态平衡蒸馏与任务奖励,同时构建了诊断基准 ECHOESBMK。部署时不保留历史截图即可在 4 个 GUI 基准上实现高表现与低推理成本,且支持零样本规划迁移。

  3. arXiv cs.AI34

    ERS:基于显式状态的分层规则组合推理系统

    研究人员提出了基于显式事件图的事件推理系统 ERS,通过分层规则组合在显式状态上实现可解释推理与依赖保留修订。在结构化事件图测试中,ERS 可构建长达 12 步的依赖链,在前瞻步数增至 16 时将无关领域操作从 32 降至 0,并在 24 个负例中均未生成无支持的目标输出。在 14 项联合求解的开发任务中,其动态子目标配置比单层全局控制减少了 51.6% 的推理实际耗时。

  4. arXiv cs.AI34

    重新审视用户编码器:面向场景自适应用户表征的扩散状态路由

    研究人员提出基于扩散语言模型(dLLMs)的用户编码器框架 FINDERS,利用迭代去噪过程实现场景自适应的用户表征学习。该框架包含去噪、分解、路由与压缩四项操作,并构建了包含显式行为理由的大规模语料库 BehaviorQA 提供监督。在 10 个工业场景的实验与在线 A/B 测试中,FINDERS 性能均超越现有 SOTA 方法。

  5. arXiv stat.ML29

    受保护风险约束下的可观测熵控制:以人为中心的学习机制

    研究者提出了受保护风险约束下的熵调控学习机制,指出降低熵并不等同于安全,其可能在不改变预测的同时增加受保护群体的风险。该研究通过噪声校准的对数行列式泛函推导出精确谱力公式,并将速度度量分解为可观测方向与预测无效方向。研究还推导出可行性的精确极小极大证书与锥投影公式,揭示了看似有效的熵控制在何时完全不具备容许效应。

  6. arXiv stat.ML36

    多上下文贝叶斯优化中的条件状态评估

    研究审查 2022-2025 年间 40 篇迁移贝叶斯优化(transfer-BO)论文,发现 98% 未将预算比 B/|A| 作为控制变量,导致无条件排行榜结果极不稳定。团队提出便携状态得分 PRS 并开发了 RegimePlanner,可在线估计先验相关性 rho 并切换采集函数,在 B=100 时赢下 HPO-B 全部 16 个搜索空间,在 GDSC2 上超出匹配的 Oracle 18%。

  7. arXiv stat.ML34

    用不确定性来源赋能贝叶斯:从置信度建模到稀疏估计

    研究者提出了不确定性来源(SoU)推断框架,通过显式编码模型不同组件的异质置信度来扩展贝叶斯推断。该框架允许对模型各部分进行差异化的概率处理,从而分别控制先验信息量与置信度。基于这种选择性处理,研究进一步开发了统计模型的通用稀疏化方法,可应用于线性和逻辑回归,并在贝叶斯神经网络中实现自剪枝。

  8. arXiv stat.ML30

    2D Stability Selection:通过设计抖动剔除相关无关特征

    研究者提出 2D 稳定性选择(2D-SS),通过同时在样本重采样和注入设计噪声的网格上聚合选择频率,以剔除与相关特征强相关、违反不可表示条件的无关混杂特征。理论上抖动 Lasso 相当于含噪弹性网络,并保留了关于假阳性数量的互补对上界。模拟实验显示,其尺寸匹配版本在全部 240 个模拟单元中假阳性均保持在标称界以下,优于 Stability Selection 出现 21 次超标的表现。

  9. arXiv stat.ML26

    基于自适应条件残差采样的决策相关不确定性谱风险优化方法

    研究者提出了自适应条件残差采样(ACRS)算法,用于在决策相关不确定性及固定采样预算下优化包含期望成本与加权条件在险价值的谱风险目标。该方法通过异方差回归模型复用标准化残差向量构建确定性代理模型,并结合尾部重要性采样完成局部精炼。在解析测试族的60个随机算例上,ACRS取得了11.8%的平均遗憾值,优于贝叶斯优化等基线方法的22.3%至42.3%,且在两个六维基准测试中均取得最低平均遗憾值。

  10. arXiv stat.ML28

    SLIM:非线性 GMM 模型的随机学习与推断算法

    研究者提出了面向高维非线性 GMM 模型的随机逼近算法 SLIM,在无需一致初始估计量或全局凸准则的情况下即可实现一致性与渐近正态性。该方法支持置信集构建、$J$ 检验及不等规模聚类数据,可选的二阶精炼可达到全样本 GMM 效率。蒙特卡洛实验在包含 576 个矩条件与 380 个参数的系统中验证了算法可扩展至 100 万条观测,并成功应用于 480 万 LinkedIn 毕业生就业数据。

  11. arXiv stat.ML28

    RAW-Explainer:用于知识图谱补全路径推理 GNN 的事后解释方法

    研究者提出 RAW-Explainer(Random Walk Explainer),这是一种专为路径推理 GNN 设计的事后解释方法,可为知识图谱补全中的链接预测生成连通、简洁且可解释的子图。该方法结合异构信息与随机游走目标,并引入鲁棒评估器解决解释子图远小于全图时的分布偏移问题。标准基准测试表明其兼顾了解释质量与计算效率,代码与数据已公开。

  12. arXiv stat.ML31

    策略梯度真的是梯度吗?

    研究证明,强化学习中省略外部折扣因子的按回合求和同策略更新,并不一定等同于任何函数的梯度。研究人员还构造了反例,表明精确的期望更新会导致参数发散,并将策略推向在带折扣与不带折扣目标下均全局最差的确定性极限。调研进一步指出学术界对折扣策略梯度方法存在普遍误解,相关错误甚至广泛存在于顶会高引论文中。

  13. arXiv stat.ML25

    基于成员查询的主动学习样本复杂度研究

    该研究探讨了主动学习中合成任意成员查询对统计学习难度的影响。相比仅能从无标签池中挑选查询的池化主动学习,允许合成查询能让二维半空间等假设类的误差随样本量从多项式衰减转变为指数级可学习。为此,研究提出了若干充分条件与典型示例,并给出了推测性视角,以界定哪些假设类能通过合成查询实现高效学习。

  14. arXiv stat.ML13

    分布式时序差分学习中的在线统计推断

    研究者提出了基于单条马尔可夫轨迹的非参数分布式时序差分学习方法,用于固定策略下回报分布统计泛函的在线统计推断。该研究证明了 Polyak-Ruppert 平均估计量及其 Bootstrap 版本具有相同的渐近高斯极限,从而支持方差、CVaR 等光滑泛函的推断,并针对回报分位数等非光滑泛函建立了局部渐近理论。因定理 4 证明的步骤 3 存在技术错误,该论文已被撤回。

  15. arXiv stat.ML30

    分位数分布式强化学习的在线统计推断研究

    研究者针对分位数分布式策略评估提出了两种分位数向量在线统计推断方法,覆盖生成模型的同步/异步采样及马尔可夫数据。第一种方法基于分位数时序差分学习(QTD)轨迹与递归计算的随机缩放统计量,在确定性时间跨度下实现渐近精确覆盖且区间长度阶数为 $T^{-1/2}$。

  16. arXiv stat.ML34

    高维稀疏更新下随机动量的动力学分析

    一项理论研究分析了稀疏更新下随机动量的动力学行为,推导了稀疏输入最小二乘与罕见类别逻辑回归两个模型的高维极限闭式二阶矩动态。其相结构由动量保留与学习两个时间尺度的比值决定:学习远慢于保留时趋近 SGD,学习更快时系统不稳定,二者吻合时则恢复经典重球动力学。不同 token 稀疏度会导致振荡动量值不同,从而在不同 token 频率间引发全局动量的谱冲突。

  17. arXiv stat.ML29

    用于随机偏微分方程不确定性量化的扩散随机算子网络

    研究人员提出一种用于随机偏微分方程(SPDEs)解算子不确定性量化的随机算子网络(SON),能直接从含噪数据中学习并输出均值解场与不确定性量化。该方法将 DeepONet 架构与随机神经网络(SNNs)相结合,通过最小化哈密顿型损失并借助随机最大值原理优化。基准 SPDEs 数值实验表明,该方法在捕捉解结构和量化预测不确定性上具备高精度与鲁棒性。

  18. arXiv stat.ML26

    利用核嵌入度量条件分布差异

    该研究提出了条件最大均值差异(CMMD)理论框架,利用 RKHS 核嵌入度量条件分布之间的差异。CMMD 构建了涵盖条件均值算子、条件均值嵌入与联合均值嵌入的度量族(CMMD$_0$、CMMD$_1$、CMMD$_2$)及通用 level $s$ 形式。研究还引入了新型双重稳健估计器,数值实验证实其能有效捕捉复杂条件依赖并用于统计检验。

  19. arXiv stat.ML37

    结构因果瓶颈模型(SCBMs)

    研究者提出了结构因果瓶颈模型(SCBMs),通过低维汇总统计量(瓶颈)来介导高维变量之间的因果效应,并证明其瓶颈变量在观测数据下可辨识至双射。在线性 SCBMs 下,瓶颈表征解决了工具变量中朴素两阶段最小二乘法的不可辨识性问题。在中介和后门调整策略中,基于瓶颈变量的调整可获得有效因果效应估计,并在有限样本效率上优于全量高维变量。

  20. arXiv stat.ML27

    基于广义贝叶斯推断的鲁棒实验设计

    研究者提出广义贝叶斯最优实验设计(GBOED),将广义贝叶斯推断扩展至实验设计领域,在设计与推断中同时实现鲁棒性。该方法利用广义贝叶斯决策理论推导出全新的采集函数——Gibbs 期望信息增益。实验表明,GBOED 能有效提升对离群值以及结果噪声分布错误假设的鲁棒性。

  21. arXiv stat.ML34

    基于贝叶斯社群发现的可靠数据聚类方法

    研究人员提出了一种结合贝叶斯社群发现的数据聚类新方法,通过单一最小描述长度准则同时决定数据稀疏化程度与聚类方式。该单步方法保留所有样本进行推理,消除了任意阈值选择,并在无真实结构时仅返回单个聚类。合成数据测试显示其在更高噪声和更少样本下仍能恢复聚类;在人脑基因共表达数据中,其聚类的一致性与稳定性均优于标准工具 WGCNA。

  22. arXiv stat.ML33

    统计学视角下的公平性与准确率帕累托前沿研究

    一项新研究针对单一预测模型服务多个人口群体的场景,探讨了有限样本机制下的公平性与准确率(FA)帕累托前沿权衡。研究推导了最坏情况最优估计量,量化了有限样本效应对各群体福利的不对称影响,并提出了最优样本分配策略。该成果还给出了沿整个 FA 前沿的一致有限样本界限,量化了有限数据带来的逼近偏差。

  23. arXiv stat.ML35

    基于信息序策略的马尔可夫决策过程强化学习

    研究人员针对连续状态与动作空间下的无限时界平均成本马尔可夫决策过程(MDP),提出了一种利用策略间“信息序”进行反事实推断的分段强化学习算法。对于信息序宽度为 $w$ 的 $d$ 维策略类,该算法实现了 $\widetilde O(H\sqrt{wdT/\alpha})$ 的遗憾界,无需平均成本函数的全局凸性假设。该框架已成功应用于具提前期的销售损失库存系统、双货源系统及状态相关服务率排队模型中。

  24. arXiv stat.ML27

    基于对抗随机森林的缺失值插补方法 MissARF

    研究人员提出基于对抗随机森林(ARF)的生成式缺失值插补方法 MissARF,可同时支持单重与多重插补。该方法利用 ARF 进行密度估计和数据合成,以非缺失值为条件从估计的条件分布中采样填补缺失值。实验表明,MissARF 在插补质量和运行速度上与现有 SOTA 方法相当,且进行多重插补无需额外开销。

  25. arXiv stat.ML26

    深度随机 ReLU 神经网络 ℓ^p-Lipschitz 常数的最优估计研究

    研究者针对采用 He 初始化变体的随机参数深度 ReLU 神经网络,推导了 p ∈ [1, ∞] 时的 ℓ^p-Lipschitz 常数界。在零偏置宽网络中,高概率上下界仅相差一个绝对常数,且随网络深度呈对数平方根增长;常数特性在 p ∈ [1, 2) 和 p ∈ [2, ∞] 两区间存在显著差异。在非零偏置网络中,研究推导出了无需偏置分布假设的相同下界,以及对称有界偏置分布下的高概率上界。

  26. arXiv stat.ML35

    因果模型与因果表征的因果性究竟体现在何处?

    研究者提出一个将因果模型与数据生成过程解耦的形式化框架,系统形式化了现实行动映射到模型干预的解释过程。研究证明了一项不可能结果:不存在既能同时满足多项理想性质又保持非循环的解释方式;在循环解释下,任何拟合观测分布的模型都具备干预有效性且无法被实验证伪。该框架为分析因果发现、因果表征学习和因果抽象等领域的经验内涵提供了理论工具。

  27. arXiv stat.ML33

    基于条件 Föllmer 流的深度条件分布学习方法

    研究人员提出一种基于常微分方程(ODE)的深度生成方法 Conditional Föllmer Flow,用于学习条件分布。该方法从标准高斯分布出发逼近目标分布,采用欧拉法离散化并用深度神经网络非参数化估计速度场,首次提供了基于 ODE 流的条件分布学习端到端 Wasserstein-2 距离收敛性误差分析。数值实验表明其在非参数密度估计和图像数据任务中均优于现有方法。

  28. arXiv stat.ML28

    无穷方差梯度下非线性 SGD 的精确尾部法则

    针对具有无穷方差梯度噪声的非线性常步长 SGD,最新研究通过精确一阶尾部概率刻画了最后一次迭代的精度。在正则变化指数 $t\in(1,2)$ 的设定下,主测度通过局部 Hessian 流传递单次大梯度冲击,并在固定 batch size $b$ 时引入 $b^{1-t}$ 因子。该结论给出了显式的投影与超额目标尾部及极端分位数,并在 1 到 100 维的模拟中验证了校准度与 batch 效应。

  29. arXiv stat.ML40

    随机机器学习实验的等效性检验与运行次数设计

    针对机器学习训练中仅凭两三次运行无法严谨证明方法等效的问题,研究人员提出了一套用于验证 AUROC 等指标实际等效性的检验方案与功效理论。该方案基于区分运行间分散度与样本级噪声的两层方差模型,采用双单侧检验(TOST)及两层 Bootstrap,并给出将等效裕度与目标功效转换为每种方法所需运行次数的闭式公式。

  30. arXiv stat.ML33

    无悔语言生成理论研究

    该研究提出了无悔语言生成(no-regret generation)理论框架,要求生成器在所有演示序列和目标语言中仅产生次线性数量的错误,并拓展了允许任意演示的不可知变体。

  31. arXiv stat.ML32

    高维点云边界检测新方法

    研究人员提出了两种针对非均匀密度、高环境维度及强噪声环境的高维点云数据边界检测新方法。第一种方法在局部降维后拟合分离超平面,第二种方法通过测量局部邻域的方向均匀性在合成数据上取得最佳综合表现;算法不仅输出逐点数值边界分数,还能估算各边界点的法向量。该方法已在合成数据、空间转录组学肿瘤边界检测以及 LLM 激活几何分析中完成验证。

  32. arXiv stat.ML33

    超越条件独立性的因果发现:有向无环图与有向有环图的可识别性、算法与统计推断

    本综述梳理了超越条件独立性、利用分布特性的现代因果发现方法,系统区分了识别来源、统计估计器及计算实现。文章探讨了存在潜变量混淆和反馈环路场景下的因果发现,并明确区分了总体识别、频率学派与贝叶斯一致性、不确定性量化及算法保障。最后给出了按可识别目标对比方法的建议,并指出了异质总体、非标量变量等研究方向。

  33. arXiv stat.ML34

    岭回归中通过迁移学习实现极小化极大最优缩放定律

    研究人员针对高维岭回归迁移学习机制展开分析,证明微调模型可在特定机制下使缩放定律达到极小化极大最优指数。研究建立了模型与协方差偏移下的风险确定性等价形式,发现该机制下的最优源正则化仅依赖源数据,且通过单遍随机梯度下降微调同样能达到该最优速率。理论分析已在合成环境和语言模型实验中得到验证。

  34. arXiv stat.ML35

    Conformal Policy Selection:何时为针对性干预部署 AI 决策

    研究人员提出名为 Conformal Policy Selection 的安全部署框架,将针对性干预转化为多重检验问题,通过控制错误发现率(FDR)决定何时为特定个体部署 AI 决策。该方法结合应对分布偏移的加权共形 p 值与两步筛选剪枝流程,具备有限样本 FDR 控制及双重稳健性保证。实验表明该框架可充当部署安全门禁,限制模型对高风险子群体施加有害干预。

  35. arXiv stat.ML29

    在黎曼流形的未知子流形上计算 Fréchet 均值

    研究者提出了一种基于图的迭代算法,用于在仅能通过局部采样器和观测度量访问未知紧致 d 维黎曼子流形的情况下,自适应采样并逼近测地线插值以计算内蕴 Fréchet 均值。在温和假设下,该算法最多使用 Õ(T^(4d+3)) 个采样点即可实现 O(1/T) 的期望目标间隙保证。作为理论副产物,该工作还将 ISOMAP 的度量等价性保证从欧氏环境空间推广到了黎曼环境空间。