跳到正文

#论文/研究

今日 62 条
10月23日周五
  1. arXiv cs.LG40

    大语言模型安全相关行为的探测与干预研究

    研究人员针对 Llama-3.1-8B-Instruct 模型,评估了激活探测在欺骗、高风险意识和阿谀奉承三种安全相关行为中的检测与干预表现。实验发现逻辑回归探测在欺骗和高风险场景下更擅长检测,而均值差方向更擅长干预,但该规律在阿谀奉承任务中出现反转。相关探测器与干预方向已接入交互式界面,支持用户直接评分并干预文本输出。

  2. arXiv cs.LG33

    用于视觉任务的脉冲感知梯度混合精度脉冲神经网络量化方法

    研究人员提出了一种面向脉冲神经网络(SNN)的脉冲感知基于梯度的混合精度量化框架,利用一阶梯度自适应分配位宽,无需昂贵的高阶 Hessian 计算。在 ImageNet 上的 ResNet-34 评测中,该方法在 4.78x 压缩下达到 73.30% 准确率,效果匹敌 HAWQ-V2 的同时将内存开销降低 2.31x,位分配运行时间缩短 100x。

  3. arXiv cs.LG42

    GAV:面向 PDE 智能体的科学实验环境

    GAV 是一个面向 PDE 智能体的科学实验环境,利用制造解方法反向构造新偏微分方程问题,实现无需单独求解即可直接验证。系统包含生成器、智能体与验证器,可依据精度与计算成本反馈迭代优化程序,并针对弱点生成测试。在数值 Navier-Stokes 任务中,GAV 将 3 个现有 PDE 智能体的平均测试误差降低了一个数量级以上,代码已开源。

  4. arXiv cs.LG31

    面向 DAG 采样的 Metropolis-Hastings 算法泛化研究

    研究者提出名为 duet sampling 的 Metropolis-Hastings 泛化算法,通过在每次迭代中从候选池选择两个提议分布,分别用于生成候选状态和评估返回当前状态。该方法支持同时对有向无环图(DAG)中多个节点的父节点进行重采样,在不增加额外计算成本的前提下提升马尔可夫链的混合效率。实验表明,新设计的采样操作无论单独还是组合使用,表现均超越以往 SOTA 方法。

  5. arXiv cs.LG46

    从二次型视角看 Muon 的极分解更新:优势、陷阱与 Newton-Schulz 的作用

    研究人员通过矩阵二次型理论分析了优化器 Muon 核心的正交化更新 PolarGD,揭示了其训练大语言模型优于 AdamW 的机理与潜在瓶颈。分析表明,PolarGD 的收敛速度取决于当前迭代矩阵的条件数而非 Hessian 矩阵,但极小的奇异值会导致其速度远慢于梯度下降。Muon 采用的少数次 Newton-Schulz 迭代恰好缓解了微小奇异值的负面影响,收敛速度甚至快于精确正交化。

  6. arXiv cs.LG33

    多模态推理的最小编辑策略内知识蒸馏方法

    研究人员提出用于多模态推理的最小编辑策略内知识蒸馏方法,利用教师模型评估错误推理并仅对教师不认可的 token 进行针对性修正,正确推理则接受任务奖励强化学习。该方法在测试阶段无需图像描述即可达到或超越基准模型输入参考描述的性能,显著增强了几何感知能力,且使用同尺寸冻结模型作为教师同样有效。

  7. arXiv cs.LG52

    医疗 AI 隐私风险自动化筛查:在训练前识别成员推理攻击高风险数据

    研究人员提出一种医疗 AI 隐私风险自动化筛查工具,能在生产模型训练前利用四个小型模型提前识别易受成员推理攻击的高风险患者记录。该研究在 6 个临床数据集和 4 种模态下测试了 7,789 个模型,发现高风险患者群体在不同架构、训练配方与基座模型中基本重合。增强权重衰减最多可将暴露群体规模减少至三分之一,团队建议将隐私筛查直接纳入临床 AI 的数据准备流程。

  8. arXiv cs.LG32

    异构边缘平台模型压缩技术评测:以旋转机械预测性维护为例

    一项针对工业旋转机械预测性维护的研究评测了 9 类异构计算平台上的 4 种模型压缩技术,结果显示知识蒸馏表现最有效。经知识蒸馏压缩的卷积神经网络模型体积缩减 98.9%,在所有设备上实现超过 90% 的推理加速,同时保持了 91.22% 的平衡 F-score,显著降低了计算与能源开销。

  9. arXiv cs.LG24

    用于嵌入式系统植物病害识别的轻量级群注意力网络 GANet

    研究人员提出了轻量级群等变注意力网络 GANet,专用于 38 种植物病害的预测与监测。该模型引入了群注意力模块与逐群特征融合模块,仅包含 0.001M 参数,在 PlantVillage 数据集上取得了 99.99% 的准确率。GANet 针对边缘设备进行了部署优化,在 Raspberry Pi 4b 和 Jetson Nano 上分别达到 5 FPS 和 11 FPS。

  10. arXiv cs.LG36

    提示词风格如何影响 AI 在竞赛编程中的准确率与运行速度

    一项针对 GPT-5.5 的探索性研究测试了 9 种风格的提示词,发现没有任何单一提示词在竞赛编程中表现最佳,最优选择取决于任务类型以及采用平均值还是中位数评估。研究涵盖 3 项国际信息学奥林匹克(IOI)准确率任务和 2 项 NP-hard 运行速度任务,指出均值差异多由少数离群运行导致。与人类 IOI 参赛者相比,GPT-5.5 在一项任务中超过平均选手,但另两项表现落后。

  11. arXiv cs.LG33

    预测不等于校准:知识追踪中的题目参数恢复与表征耦合

    知识追踪模型的作答预测准确率无法保证题目参数恢复,区分度更新直接受估计能力尺度影响。将序列表征宽度 $d_S$ 与参数键宽度 $d_M$ 解耦并采用 SK(64,8) 组合,可在不增加模型大小或降低精度下改善参数恢复与跨顺序一致性。在 TIMSS 和 EdNet 上加宽 $d_M$ 持续提升了与离线 IRT 的一致性,表明题目参数须脱离预测独立评估。

  12. arXiv cs.LG27

    稀疏贝叶斯学习的光谱不确定性分解方法

    研究人员针对 M/EEG 神经源成像等病态逆问题,提出了一种基于先验预条件正向算子奇异值结构的光谱框架。该框架将后验协方差精确分解为数据可知成分与由传感几何决定的不可约认知不确定性成分。团队还推导出了等效减法分解,可精确定量稀疏贝叶斯学习中的不确定性消除程度,为线性高斯贝叶斯逆问题求解器提供了可解释的不确定性量化工具。

  13. arXiv cs.LG40

    MoEZip:面向稀疏 MoE 大语言模型的路由感知 KV Cache 压缩

    MoEZip 是一种面向稀疏 MoE 大模型的路由感知 KV cache 压缩方法,解决了 KV 淘汰改变专家路由并损害生成质量的问题。该方法基于路由分布的 Fisher 信息矩阵评估敏感度,并结合注意力权重对上下文评分。在 10% 的 KV 保留率下,MoEZip 在 LongBench 和 RULER 上较 SOTA 基准平均提升 +24 和 +20 分,分别达到 2.3x 和 4.9x。

  14. arXiv quant-ph29

    空穴掺杂 Hubbard 模型中条纹序与超导的激烈竞争

    研究人员结合神经张量网络与神经反流态模拟,在大规模 GPU 计算支持下于多达 1024 个格点的晶格上达到了前所未有的变分精度。在 1/8 掺杂纯 Hubbard 模型及次近邻跃迁条件下,计算揭示了低能均匀 d 波态、超导条纹态与非超导条纹态在 milli-t 能量尺度上近乎简并。该发现颠覆了单一主导序的传统观点,表明条纹序与超导之间存在极度激烈的竞争。

  15. arXiv quant-ph42

    利用 AI Agent 实现量子线路优化自动化

    研究人员提出一种利用 AI Agent 自动化优化量子线路的通用方法,通过冻结的精确验证器确保每个优化结果均可被确证。该方法应用于费米子到量子比特编码、哈密顿量布局与酉算子合成三项任务,在最大测试规模下将优化成本最高降低 73%,性能超越现有 SOTA 优化器。每次程序提交均附带 Agent 笔记,便于后续 Agent 持续迭代。

  16. arXiv quant-ph34

    量子福克-普朗克求解器作为可训练生成模型

    研究提出一种基于随机微分方程量子求解器的可训练生成模型,通过参数化朗之万过程势能并求解福克-普朗克方程实现分布建模。该方法利用量子奇异值变换求解厄米化方程并编码平稳密度的平方根,支持通过计算基测量直接采样。得益于物理启发的归纳偏置,该模型具备凸优化特性且不受维度限制,在大规模高维数据下仍保持可训练。

  17. arXiv quant-ph26

    基于纠缠的特征图设计能否提升投影量子核?

    研究人员提出利用双量子比特纠缠的新型量子特征图,以捕捉物联网(IoT)数据中的多变量相关性并优化投影量子核(PQK)。该研究通过对比未调优与调优 PQK 及 RBF 基准,评估其在脱离经典超参数调优掩盖下的原生归纳偏置。结果表明,所提纠缠拓扑展现出显著更强的原生归纳偏置,证实量子力学特性可直接带来结构性提升。

  18. arXiv quant-ph32

    基于信息混合与分层网络架构的可扩展神经波函数

    研究者提出将 MLP Mixer 作为量子多体系统的波函数拟设,利用轻量级信息混合策略兼顾长程关联捕捉能力与低计算成本。在二维量子多体系统基态表征基准测试中,该架构性能可媲美 RNN 和 Transformer 模型。进一步将该模型与 Transformer 分层结合后,在大型量子系统上的表现超越了现有 SOTA 架构。

  19. arXiv quant-ph44

    Lean-QuantumAlg:让 AI 智能体生成人类可信量子算法的框架

    Lean-QuantumAlg 是一套基于 Lean 4 的量子算法形式化框架,旨在帮助 AI 智能体生成兼具正确性与资源边界保证的人类可信量子算法。该框架在 Grover 搜索以及针对 RSA-2048 和 P-256 的量子攻击等 9 个 AI 形式化算法上完成验证。在共享框架审计完成后,每个算法仅需不到 1% 的导入源代码接受语句级人工审查。

  20. arXiv stat.ML25

    稀疏地震计数的神经概率预测评估:严谨评估下哪些结论依然成立

    研究重新评估了天山与帕米尔区域每周地震计数的神经网络负二项模型,发现神经网络相比带有每网格截距的线性模型并无显著优势,偏差仅改善 3.4%(p=0.57)且若剔除单一网格周则反而落后 0.7%。评估证实包含 ETAS 在内的泊松预测严重低估了高频活动周的概率,存在 8.3 倍差距,而引入离散参数可消除此偏差。2024 年至 2026 年 9 月的盲测进一步验证了引入离散参数的模型优于泊松模型。

  21. arXiv stat.ML30

    基于观测数据的策略学习:HIV/HCV 共感染患者丙肝治疗案例研究

    研究者提出一种在多动作框架下利用观测数据推导策略规则的方法,通过加权 K-means 算法估计条件平均因果效应(CATE),并结合标准决策树落地可行规则。该方法应用于 HIV/HCV 共感染患者的丙肝治疗方案,成功识别出一个无需治疗即有约 80% 自发清除 HCV 概率的患者亚组。测算表明,在提升总体健康收益的同时,重新分配治疗可降低 CAN$2.5-4.5 million 的总治疗成本。

  22. arXiv stat.ML33

    针对慢性肾脏病多群体的惩罚公平回归方法

    研究人员提出了一个面向多群体的惩罚公平回归通用框架,旨在减少医疗领域的社会偏见。该方法通过真阳性率差异惩罚处理二元结局,可转化为代价敏感分类问题高效实现,并引入新型评分函数自动选择惩罚权重。在全美多中心慢性肾脏病初级保健研究的实际应用中,该模型显著提升了多个种族和族裔群体的公平性,且未造成整体拟合度的明显损失。

  23. arXiv stat.ML25

    面向多体哈密顿量吉布斯态的元学习及其在量子玻尔兹曼机中的应用

    研究人员提出 Meta-VQT 与 NN-Meta VQT 两种元学习算法,用于在 NISQ 设备上高效制备参数化多体哈密顿量的量子吉布斯态。该方法在最高 8 个量子比特的横向场伊辛模型(TFIM)上验证了有效性,元学习参数可作为热启动初始化显著改善优化效果。在量子玻尔兹曼机(QBM)训练应用中,该算法相比基于 VarQITE 的方案实现了 30 倍的运行加速。

  24. arXiv stat.ML30

    通过梯度计算经典卸载减少变分量子算法的 QPU 调用

    研究提出 HELIA 架构与两套协同训练方法,通过将梯度估计卸载至经典硬件,显著减少变分量子算法对 QPU 的调用需求。在 6 至 18 量子比特的 VQE 基态估计中,该方案相比 Full-PSR 训练将逻辑量子评估次数平均减少高达 60%;在最高 12 量子比特的量子相位分类任务中,平均峰值测试准确率最高提升 2.8 个百分点。

  25. arXiv stat.ML35

    无需非高斯假设的多视图因果发现:可识别性与算法

    研究人员提出了一种多视图线性结构方程模型(SEM),利用不同视图间的相关性替代传统的非高斯扰动假设,并证明了该模型在有向无环图下的可识别性。受单视图算法 DirectLiNGAM、PairwiseLiNGAM 和 ICA-LiNGAM 启发,团队进一步开发了多种多视图因果发现算法。模拟实验和神经影像数据应用验证了新方法的有效性,成功估计出大脑区域间的因果图。

  26. arXiv stat.ML26

    用于部分可观测马尔可夫过程模型推理的自动微分方法

    研究人员提出一套将自动微分(AD)应用于部分可观测非线性随机动态系统的新算法框架,通过权衡偏差与方差大幅降低了均方误差。该方法仅需隐动态系统的可微模拟器,无需获取系统转移概率即可实现似然最大化。基准测试显示,结合迭代滤波与 AD 的混合算法在科学基准问题上较现有 SOTA 方法取得显著改进。

  27. arXiv stat.ML30

    混合块模型下的多层网络最优聚类研究

    研究者提出了混合多层随机块模型(MMSBM)下的网络聚类方法,确立了由 Chernoff 信息表征的指数形式极小化极大最优网络聚类错误率。该研究构建了一种结合张量初始化、节点与样本拆分以及似然精炼的两阶段估计器,在极端网络稀疏条件下以高概率达到最优速率。该框架还通过混合多层 Poisson 块模型拓展至计权网络,并在两组真实数据分析中验证了有效性。

  28. arXiv stat.ML29

    用于条件分布灵活估计的并行梯度提升算法

    研究者提出一种名为并行梯度提升(parallel gradient boosting)的新算法,用于高效估计整个条件分布。该方法通过为所有训练样本采用公共下降方向,使每次迭代仅需训练一个基模型,摆脱了传统提升算法对特定损失函数和基学习器的依赖。在多重分位数回归设定下,其预测质量媲美 XGBoost,同时训练速度提升数个数量级,并在高维及含缺失协变量场景中优于其他非参数与半参数估计器。

  29. arXiv stat.ML27

    稀疏优化更新的随机匹配多臂老虎机框架

    研究者提出了多项 Logit(MNL)选择模型下的随机匹配多臂老虎机框架,解决 $N$ 个智能体与 $K$ 个臂匹配时的长期收益最大化和后悔值最小化问题。针对每轮求解 NP-hard 组合优化带来的计算瓶颈,新算法将匹配策略的更新频率严格限制在整个时间范围 $T$ 内的 $\Theta(\log\log T)$ 次。

  30. arXiv stat.ML28

    基于扩散的假设检验与变点检测

    该研究将基于得分(score-based)的假设检验与变点检测停时规则扩展至基于扩散的对应形式,以解决得分方法通常弱于似然方法的问题。作者从理论上量化了该算法的性能并给出了可实现最优表现的场景,同时提出了一种数值优化权重矩阵的方法,数值模拟验证了基于扩散算法的优势。

  31. arXiv stat.ML27

    基于离线回归的阶段约束上下文老虎机:无 eluder-dimension 的后悔界

    研究针对带阶段约束的上下文老虎机问题提出 CS-UCCB 算法,结合了离线回归、成本置信集与反事实置信上界。在覆盖熵与离线估计误差满足多对数条件下,有限动作算法以高概率保证每轮决策的可行性,并实现无需 eluder-dimension 项的 $\widetilde{\mathcal O}(\sqrt T)$ 后悔界。该理论分析还进一步拓展至显式奖励设计条件下的无限动作场景。

  32. arXiv stat.ML34

    从随机特征到全可训练神经网络的相变现象研究

    该研究量化了部分可训练神经网络从固定随机特征到完全自适应表示过程中的相变模式,表现为逼近界与训练误差呈现出先快速改善后收益递减的趋势。针对宽度为 m 且可训练比例为 P 的两层网络,研究证明了其平方 L2 逼近率可达 $\mathcal{O}((\kappa_P\log(m/\delta)/m)^\alpha)$。

  33. arXiv stat.ML36

    何时跟随教师:基于优势的在线策略蒸馏(AOPD)

    研究人员提出基于优势的在线策略蒸馏(AOPD),通过教师动作在学生模型下的反事实优势进行加权,强化真正有助于提升学生表现的教师指导。该方法仅依赖标准学生采样轨迹与终端奖励进行目标估计,无需额外的 rollout 或奖励评估。在数学、代码与 Medqa 任务实验中,AOPD 在外部教师及自蒸馏设置下均优于传统蒸馏与强化学习基线。