跳到正文

全部动态

今日 1 条
10月16日周五
  1. arXiv cs.AI41

    扩散模型的校正训练方法

    研究人员提出一种用于扩散模型的校正训练方法,通过在去噪步骤中引入校正器迭代优化预测,以缩小训练与推理间的曝光偏差差距。该方法在 DiT、SiT 和 JiT 上显著改善了无引导及无条件生成的 FID 分数,效果可媲美 CFG,且结合 CFG 能提升多样性并减少过饱和。校正带来的额外推理开销还可通过蒸馏回基础模型消除,在无额外推理成本下保留质量提升。

  2. arXiv cs.AI52

    论文揭示数据科学智能体中的静默失败

    研究人员针对数据科学智能体展开系统评估,指出仅依赖下游预测指标和代码正确性会掩盖数据泄露与不当验证等方法论缺陷。通过跨 220 个数据科学任务的分析与测试套件验证,研究发现绝大多数智能体方案均存在至少一种失败模式,且数据泄露与高预测表现正相关。对比 Kaggle 竞赛专家方案,现有智能体在解决问题的创造力与领域知识上仍存在明显不足。

  3. arXiv cs.AI48

    人工智能的首场大考:基于 LLM 引用的超智能 C-test 评测

    研究人员提出了首个基于 Levin's Kt 并以大语言模型作为表征机器的测试方法,用于评估可能超越人类与现有 AI 的超智能系统。该方法利用归纳推理反向问题生成高难度测试项,难度采用以比特为单位的比例尺度估算,并构建了轻量化生成与认证流程。团队制作了首套认证测试项并对 12 个大语言模型展开评测,成功验证了覆盖超智能区间的测试能力。

  4. Apple ML Research48

    先规划还是先检索?大模型工具发现架构的规模化研究

    研究对比了大模型工具发现架构中的“先检索后规划”(RtP)与“先规划后检索”(PtR)两种范式。在涵盖 46,984 个 API 端点的 ToolBench 评测中,RtP 在单工具查询上表现更好,而通过先生成抽象工具桩进行检索的 PtR 在多工具查询上全面胜出,这一交叉效应在 Gemini 2.5 Flash 和 gpt-oss-120b 等模型上均一致存在。

  5. Apple ML Research43

    基于选择的结构化推理(SSR):迈向高效多模态搜索智能体

    研究人员提出基于选择的结构化推理(SSR)框架,将多模态智能体的开放式推理重构为从预设可复用的候选推理中进行选择。在 2B 与 4B 模型及 7 个多模态搜索评测基准上的测试显示,该方法在保持任务成功率的同时,将每轮推理延迟降低超过 90%,并将每个问题的模型总推理延迟降低 28–54%。

10月15日周四
  1. Science News66

    脑机接口植入物如何帮助失语患者重获声音

    脑机接口结合机器学习技术正在帮助因渐冻症等神经疾病失语的患者直接通过大脑信号重建语言交流能力。加州大学戴维斯分校等研究团队通过在患者大脑运动皮层植入电极阵列,采集神经电信号并由算法解码为音素和词句,受试患者已借此累计交流近 200 万字;此外,Paradromics 等机构也在推进小型化便携植入设备,探索低延迟实时语音和情绪语调的解码还原。

  2. 科学网21

    直播预告|大模型时代:多模态聚类是否仍有必要?

    科学网等平台将于10月19日19:00举办直播,探讨大模型时代下多模态聚类的必要性与短板。郑州大学徐明亮、胡世哲团队近期在《工程·信息与电子工程(英文)》发表了一种新算法,旨在改善无需人工标注时机器对图像、文本、音视频等混合数据自动分类的痛点。活动将由中国科学报社赵广立主持,郑州大学直聘研究员胡世哲主讲。

  3. 科学网32

    棕色脂肪与心理健康益处相关

    一项发表于《自然》的超10万人研究发现,人体内拥有“活跃”棕色脂肪不仅与2型糖尿病等代谢疾病风险降低相关,还与抑郁症和焦虑症风险降低密切相关。研究人员利用人工智能模型通过PET和CT扫描图像量化棕色脂肪,证实其活性越高对疾病的防护能力越强。此外,团队发现降压药氯沙坦能增强棕色脂肪活性,有望实现老药新用。

  4. arXiv stat.ML35

    流匹配处理序列数据是否只是轨迹重放?

    研究探讨了流匹配(FM)在序列数据生成与预测中是学到了可迁移的动力学结构还是仅进行轨迹重放,推导出常用高斯条件路径下驱动速度场可表示为观测转移瞬时速度的加权混合闭式解。基于该非参数目标,作者提出了免训练的闭式实现 FreeFM。FreeFM 无需训练即可直接利用历史转移生成有效的概率预测,为序列流匹配提供了可解释的分析基准。

  5. arXiv stat.ML35

    噪声感知差分隐私变分推断

    研究人员提出了一种基于随机梯度变分推断的噪声感知近似贝叶斯推断方法,可应用于高维和非共轭模型,并同步提出了更精确的噪声感知后验评估方法。实验表明,该方法在适用领域内性能与现有方法相当;在现有方法不适用的场景中,在高维贝叶斯线性回归上获得了准确的覆盖率,并在 UCI Adult 数据集的贝叶斯逻辑回归上实现了校准良好的预测概率。

  6. arXiv stat.ML26

    利用生成模型检验条件分布等价性

    研究人员提出一种利用生成模型检验条件分布等价性的新测试方法,通过结合观测数据与合成样本来比较条件分布。该方法引入样本分割与学生化方案控制估计误差,在零假设下检验统计量呈渐近正态分布,且理论上仅需所学条件分布满足一致性。实验表明,在高维设定下该方法相比代表性核方法具备准确的尺寸控制与更高的检验功效。

  7. arXiv stat.ML26

    在线凸优化中追踪少量专家的遗憾界与计算复杂度研究

    研究针对连续动作空间在线凸优化中追踪仅在 $m$ 个专家间切换 $k$ 次的比较基准问题,证明了信息论最优与多项式时间可达遗憾界之间的计算复杂度分离。虽然离散化动作空间可实现 $\widetilde{O}(md+k)$ 的非高效算法,但在超图植入团猜想下,任意多项式时间算法的遗憾界至少为 $(k\sqrt d)^{1-o(1)}$。

  8. arXiv stat.ML36

    分数阶更优:神经算子学习中的可学习导数阶数

    研究人员提出用于神经算子的架构无关增强方法 $\partial$-NO(del-NO),通过为任意骨干网络引入可学习的分数阶导数特征来提升偏微分方程求解精度。理论证明输入导数特征可将逼近误差界从 $O(W^{-(s-m)/d})$ 优化至 $O(W^{-s/d})$,但最优导数阶数 $\beta^*$ 严格小于方程阶数 $m$。

  9. arXiv stat.ML28

    用于调查加权的分层高斯过程:结构化总体中的局部等效权重

    研究人员提出了基于分层高斯过程(HGP)回归的调查加权框架,通过结合结构化群组效应与核平滑来处理稀疏后分层单元中的复杂交互。该方法推导了利用结构化协方差降低计算成本的高斯后验预测公式,建立了后验预测均值的一致收敛性,并通过一阶敏感度匹配构建局部等效权重。

  10. arXiv stat.ML36

    SpectrumQuant:基于谱对齐的 LLM 量化方法

    研究人员提出面向 LLM 训练后量化的闭式正交旋转方法 SpectrumQuant,通过校准数据估计激活协方差以实现谱对齐。该方法将量化友好型旋转解构为对齐与混合组件,并涵盖了 Hadamard 矩阵与蝶形矩阵。在 Llama 和 Mistral 上的实验表明,其表现媲美 SOTA 策略,GPU 显存需求不足 SpinQuant 和 DartQuant 的 1/3 且耗时显著缩短。

  11. arXiv stat.ML42

    从柏拉图到亚里士多德:迈向表征假说的通用理论

    研究人员提出晶格表征假说(LRH),将不同表征对齐标准统一在同一个格结构中,以解释关于模型表征收敛的不同观点。LRH 表明柏拉图表征假说主张的收敛处于格顶端,而其支持证据主要来自近底端的邻域重叠,并指出亚里士多德假说中排除全局收敛可能源于跨层最大值校准。该结论在数十个预训练视觉与语言模型及数千次理论模型运行中得到了实验验证。

  12. arXiv stat.ML30

    MAEM:用于类增量图学习的免重放、容量受控动态混合专家框架

    研究人员提出用于类增量图学习的免重放动态混合专家框架 MAEM,以缓解近期学习类别主导预测的近期偏差。该框架基于 SGC 为每个新会话训练并冻结专用专家,利用掩码自编码器(MAE)的重建误差实现无任务 ID 和无共享路由器的测试节点分配。当专家池达到固定容量时,MAEM 通过 Git Re-Basin 对齐并蒸馏最少使用的专家,在 4 个图基准测试中均超越了现有持续图学习基线。

  13. arXiv stat.ML29

    利用混合整数线性规划优化稀疏布尔规则网络

    研究提出利用混合整数线性规划(MILP)训练稀疏析取范式(DNF)网络,在固定结构下显式权衡分类误差与稀疏度以全局优化布尔规则。该方法大幅减少了整数决策变量并消除冗余约束,结合初始化与 dropout 打破规则权重对称性。合成基准与 UCI 数据集实验表明,其计算效率明显提升,准确率持平或优于 SAT 及主流规则与树模型基线。

  14. arXiv stat.ML42

    双曲目标导向强化学习效果超越 1000 层欧氏网络

    研究人员提出双曲对比强化学习(Hyperbolic CRL),将目标对比目标中的欧氏距离替换为双曲空间测地线距离,解决了复杂导航中路线与欧氏距离严重偏离的问题。在困难导航任务中,仅 64 层深度的双曲智能体表现超越了 1024 层欧氏网络,同时训练速度提升超 12x,参数量减少约 13x。该方案代码已开源。

  15. arXiv stat.ML35

    Neural Wasserstein Splines:用于轨迹推断的表征不变二阶先验

    Neural Wasserstein Splines(NWSP)提出了一种在 Wasserstein 平滑先验下学习连续群体演化曲线的方法,无需数值积分即可直接生成任意时刻的样本。该方法通过标量势字典构建内蕴 Wasserstein 加速度的有限维代理,并具备可证明的表征不变性。在合成与单细胞基准测试中,NWSP 在 16 个测试设置中有 11 个位列前两名,并在 13 个设置中优于无正则化样条。

  16. arXiv stat.ML33

    基于通用函数近似的高效上下文部分监控

    研究人员提出了一种支持通用函数近似的高效上下文部分监控框架,基于在线回归预言机估计结果分布,并在全局与局部可观测设定下实现了关于 $T$ 的最优悔值阶。该方法还包含一个可结合离线回归预言机的变体,并在合成标签高效预测博弈及 LLM 路由任务中展现出优于现有方法的性能。

  17. arXiv stat.ML36

    基于正无标记学习的扩散模型渐近精确负向引导方法

    研究者提出一种基于正无标记学习(Positive-Unlabeled learning)的扩散模型负向引导方法,能直接从显式目标概率密度中进行采样。该方法在扩散轨迹上进行轻量在线训练来估计样本属于非期望条件的概率,并利用序贯蒙特卡罗(Sequential Monte Carlo)修正漂移偏差,在粒子极限下达到渐近精确。实验表明,该方法在高斯混合模型及预训练图像生成场景中均优于现有方法。

  18. arXiv stat.ML33

    从全局收敛到尾部收敛:α-稳定得分生成模型的动力学分析

    研究者提出了针对尺度保持 α-稳定得分生成模型的非渐近收敛性分析,涵盖紧支撑与幂律目标分布。在 p-Wasserstein 距离下,该模型与布朗扩散动力学的初始化误差均呈指数衰减,表明全局收敛性并未根本区分两者。但在尾部分布上出现显著差异:稳定动力学会产生指数为 α 的幂律尾部,且仅当 α=ν 时才能实现渐近正确的极端分位数缩放。

  19. arXiv stat.ML33

    用于策略优化的函数空间时间自蒸馏方法 FSPO

    FSPO 是一种面向策略优化的单策略自蒸馏框架,通过将稀疏历史 next-token 分布存为固定时间目标,无需维护常驻教师模型即可提供稳定指导。在推理与工具调用基准中,FSPO 在 5-hour 训练预算下取得最高平均准确率,比最强基准提升约 4% 个百分点。在 Olmo3-7B-Instruct 上,其峰值显存从约 70 GB 降至 56 GB。

  20. arXiv stat.ML27

    零阶非凸优化的全局联合下界研究

    该研究在无限制全空间设定下证明了零阶非凸优化的全局联合下界。针对平滑随机非凸优化,研究建立了 $\Omega(dL_0^2\min\{\Delta H,L_0^2\}/\epsilon^4)$ 的标量预言机下界,并通过平滑归约证明了 Goldstein 平稳性对 $(d,\delta,\epsilon)$ 依赖的联合极小极大最优性。

  21. arXiv stat.ML27

    随机洗牌随机梯度下降(RR-SGD)的大步长最后迭代收敛性

    针对凸且 L-光滑分量的无约束有限和优化问题,该研究建立了标准随机洗牌随机梯度下降(RR-SGD)最后迭代的期望目标差距界。在常数步长满足 $0<\eta\lesssim 1/(L(1 + \log(nK)))$ 条件下,该方法通过在随机比较点保留采样偏差,成功消除了步长限制中显式的 $1/n$ 因子。结合现有小步长界,该结果在对数因子范围内匹配了对应的平均迭代收敛率。

  22. arXiv stat.ML27

    模型误设下受测量限制线性回归的子数据选择

    研究人员提出了针对线性回归子集选择的新框架 ELOS(Expected Loss Optimal Selection),以解决因响应变量获取成本高昂且可能存在模型误设时的样本测量选择问题。该方法以预测期望损失为目标,生成仅依赖协变量信息的 A-optimality 型准则,在选择阶段无需任何响应观测值。模拟研究和真实数据应用表明,ELOS 在多种场景下均具有出色的预测表现与稳健性。

  23. arXiv stat.ML38

    嵌入几何对 LLM 路由的影响:失效模式探究与泛化提升

    新研究发现语义嵌入的邻近特征无法可靠指导未知任务的模型选择,导致 LLM 路由泛化受限。为此,研究团队提出运行 Qwen2.5-7B-Instruct 的部分前向传播,取其深层最后 token 的 hidden state 作为替代特征表征。配合 kNN 等简单分类器,该方案超越了所有语义嵌入基线,并在 RouterBench 上击败了近期基于 hidden states 的 SOTA 路由器。

  24. arXiv stat.ML44

    自适应对抗下具身与Agentic AI统计安全保证的局限性

    研究指出有限安全评估无法防范在获得认证前保持正常、认证后才激活攻击的自适应对抗者。在RoCo协作模拟中,策略切换导致认证后36个回合中出现34次违规;AgentDojo测试中每4个任务延续会增加1.98次安全违规。采用永久撤销机制的混合似然比监控器可有效限制超额风险,在对抗控制下将每24个任务的违规数从12.00次降至3.81次。

  25. arXiv stat.ML26

    网络关联数据的概率网络线性回归框架

    研究者提出了一种用于网络关联数据的概率网络线性回归分析框架,在兼顾网络形成随机性的同时融合了同伴响应加权与网络内聚性捕捉。该方法采用两步似然流程,先估计网络结构再拟合响应模型,并证明了稀疏网络下的网络恢复保证及回归估计量的一致性与联合渐近正态性。仿真研究与外交网络数据分析验证了该方法的估计性能与实际应用价值。

  26. arXiv stat.ML27

    零和博弈学习中的 Thompson 采样研究

    该研究探讨了具有高斯 bandit 反馈的未知有限双人零和矩阵博弈中的 Thompson 采样(TS)。在中心化自我对弈下,对于具有唯一样本纳什均衡的任意固定零和博弈,其期望累积对偶间隙达到 $O(\sqrt T)$,在纯策略均衡下更可提升至 $O(\log T)$。研究还给出了匹配的极小化极大下界与特定实例对数下界,实验验证了理论预测的收敛速率。