跳到正文

#论文/研究

今日 59 条
10月23日周五
  1. arXiv cs.LG36

    时间序列异常检测的未来:从历史回顾到统一展望

    时间序列异常检测(TSAD)综述全面梳理了扩散模型、状态空间模型与 LLM 等新兴架构,并构建起细化的异常分类与范式分类体系。该研究系统分析了现有评估方法并通过实验检验指标保真度,同时开源了包含算法、数据集和评估工具的基准仓库。此外,论文还指出了动态阈值、模型可解释性、零样本迁移及时间序列基座模型等开放挑战。

  2. arXiv cs.LG34

    结合强化学习与大语言模型应对金融新闻时效性衰减的投资组合配置研究

    研究探讨了如何在大语言模型与强化学习的投资组合策略中处理时效性衰减的金融新闻,并评估了扣除交易成本后的收益表现。在2023-2025年的历史测试中,强化学习加入时序信息并未带来持续的收益提升。而大语言模型直接过滤过时新闻取得了最高的平均净收益,在新闻延迟4周时年化收益率达18.43%,超过了所有使用新闻的强化学习策略。

  3. arXiv cs.LG32

    NEST:面向多尺度聚类的嵌套嵌入表征框架

    研究人员提出无监督框架 NEST,借鉴 Matryoshka Representation Learning,在单个嵌入向量中编码由粗到细的多尺度聚类结构。该方法在嵌套前缀子空间中联合优化聚类与分离度,随嵌入维度增加实现更精细的区分,并通过秩和类内正则化防止表征坍缩。实验表明,NEST 仅需各层级聚类数即可恢复合成层级结构,并在视觉、文本及单细胞数据中验证了多尺度组织能力。

  4. arXiv cs.LG34

    速率约束下的最优多任务表征:一项信息瓶颈分析

    研究人员通过多任务信息瓶颈框架,分析了在信息预算限制下哪种预训练目标能为下游任务产生最优表征。针对高斯输入与任务的分析表明,弱任务对齐的专用模型在低速率下优于重构通用模型,但在高速率下会落后;基于平均任务信息矩阵定义的目标则具有受最大任务 SNR 控制的一致相对遗憾界。CelebA 和 dSprites 实验进一步证实,压缩会改变表现最优的预训练目标。

  5. arXiv cs.LG39

    反思 SAE 评估:原子可解释单元框架揭示隐藏的多义性与冗余

    研究者提出了原子可解释单元基底这一稀疏自编码器(SAE)评估新范式,并引入包含 DAME 的综合基准测试框架。评测跨多个架构和模型族的数百个 SAE 发现,部分 SAE 在现有指标下表现单义,但对模型计算贡献最大的核心主导特征在功能上依然具有多义性且冗余度更高。该研究建议在将 SAE 用于归因、回路追踪或干预前,将主导感知评估作为标准检查。

  6. arXiv cs.LG35

    DiffLTM:用于条件生成的大型表格连续扩散模型

    研究者提出了用于条件生成的大型表格连续扩散模型 DiffLTM。该模型对类别特征采用交叉熵损失并给出了首个理论证明,引入了针对罕见子群体的评估指标,并推广了条件生成技术以支持新型条件设定。在劳动力数据上的训练表明,DiffLTM 能够捕捉计量经济学的经典洞见,相关代码已开源。

  7. arXiv cs.LG35

    Short-to-Long:用于长周期价值学习的分离特征方法

    研究者提出 Short-to-Long(S2L)方法,通过较小折扣因子的源网络为长周期行为学习器提供特征表示。该方法利用分离连接阻止行为价值损失更新源网络,在保持长周期行为折扣目标不变的同时降低目标漂移。在 57 款 Atari 游戏中,S2L 在 40 款游戏中提升了配对终端中位数,并在在线与离线连续控制任务中均实现综合性能提升。

  8. arXiv cs.LG28

    结构扰动下符号图的稳定性分析

    研究者针对包含正负交互的符号图,分析了图滤波器在边添加、删除及符号翻转等结构扰动下的表示稳定性。理论分析表明,符号边扰动与节点特征相关性共同决定了表征稳定性,据此提出了一种基于理论指导的扰动策略。在合成与真实符号图上的实验表明,该方法比基线能引发更大的嵌入向量漂移、极性改变及下游链路预测性能下降。

  9. arXiv cs.LG33

    迈向保真数据选择:统计极限与可扩展算法

    新研究证明在缺乏超大规模验证集时,信息论上无法选出使总体误差最小的最优训练子集,并据此提出了以“保真度(faithfulness)”为目标的新数据选择框架。该方法利用未调整朗之万算法建模训练,通过累积梯度差异约束参数分布的 KL 散度,并设计了可单调降低该界限的交换局部搜索算法。方案在 CIFAR10 和 CIFAR100 上匹敌现有基线,相关代码已开源。

  10. arXiv cs.LG34

    基于扰动一致性与置信度校准的记忆增强脑电运动想象在线测试时自适应框架 MOPC

    研究者提出了用于脑电运动想象的无源在线测试时自适应框架 MOPC,可在推理阶段实时更新解码参数并实现单遍自适应。该框架结合随机掩码扰动增强预测一致性,设计置信度校准重加权损失缓解伪标签不可靠问题,并引入轻量级记忆模块防止灾难性遗忘。在 BCI IV IIb 和 OpenBMI 数据集上,MOPC 相比已有方法分别提升 2.22% 和 3.67%,单次试验自适应延迟仅约 40-60 ms。

  11. arXiv cs.LG36

    AcoustiPrint:面向可制造声学结构的物理引导神经反向设计方法

    研究人员提出 AcoustiPrint 物理引导神经架构,利用隐式神经表示(INR)和可打印性算子实现可制造声学结构的约束反向设计。该方案通过代理梯度与自监督可打印性目标,使包含层级自支撑、离散材料选择与连通性等非微分制造约束支持反向传播。在个性化经颅聚焦超声测试中,该方法联合优化三维几何与材料构成,聚焦精度超越基于密度和基于相位的基准。

  12. arXiv cs.LG34

    持续同调通过多模态图神经网络实现跨物种离子通道分类

    研究人员提出融合 ESM-2 序列嵌入与二硫键感知图注意力网络的多模态模型 PH-GNN,利用持续同调表征实现跨物种的毒素离子通道分类。在包含 5 个分类群、1,373 种 ColabFold 预测毒素分子的留一物种评估中,序列基线准确率跌至约 30%,其他几何先验模型聚集在 54-55%,而 PH-GNN 达到 63.4%,领先次优方法 8 个百分点以上。

  13. arXiv cs.LG40

    大语言模型安全相关行为的探测与干预研究

    研究人员针对 Llama-3.1-8B-Instruct 模型,评估了激活探测在欺骗、高风险意识和阿谀奉承三种安全相关行为中的检测与干预表现。实验发现逻辑回归探测在欺骗和高风险场景下更擅长检测,而均值差方向更擅长干预,但该规律在阿谀奉承任务中出现反转。相关探测器与干预方向已接入交互式界面,支持用户直接评分并干预文本输出。

  14. arXiv cs.LG33

    用于视觉任务的脉冲感知梯度混合精度脉冲神经网络量化方法

    研究人员提出了一种面向脉冲神经网络(SNN)的脉冲感知基于梯度的混合精度量化框架,利用一阶梯度自适应分配位宽,无需昂贵的高阶 Hessian 计算。在 ImageNet 上的 ResNet-34 评测中,该方法在 4.78x 压缩下达到 73.30% 准确率,效果匹敌 HAWQ-V2 的同时将内存开销降低 2.31x,位分配运行时间缩短 100x。

  15. arXiv cs.LG42

    GAV:面向 PDE 智能体的科学实验环境

    GAV 是一个面向 PDE 智能体的科学实验环境,利用制造解方法反向构造新偏微分方程问题,实现无需单独求解即可直接验证。系统包含生成器、智能体与验证器,可依据精度与计算成本反馈迭代优化程序,并针对弱点生成测试。在数值 Navier-Stokes 任务中,GAV 将 3 个现有 PDE 智能体的平均测试误差降低了一个数量级以上,代码已开源。

  16. arXiv cs.LG31

    面向 DAG 采样的 Metropolis-Hastings 算法泛化研究

    研究者提出名为 duet sampling 的 Metropolis-Hastings 泛化算法,通过在每次迭代中从候选池选择两个提议分布,分别用于生成候选状态和评估返回当前状态。该方法支持同时对有向无环图(DAG)中多个节点的父节点进行重采样,在不增加额外计算成本的前提下提升马尔可夫链的混合效率。实验表明,新设计的采样操作无论单独还是组合使用,表现均超越以往 SOTA 方法。

  17. arXiv cs.LG46

    从二次型视角看 Muon 的极分解更新:优势、陷阱与 Newton-Schulz 的作用

    研究人员通过矩阵二次型理论分析了优化器 Muon 核心的正交化更新 PolarGD,揭示了其训练大语言模型优于 AdamW 的机理与潜在瓶颈。分析表明,PolarGD 的收敛速度取决于当前迭代矩阵的条件数而非 Hessian 矩阵,但极小的奇异值会导致其速度远慢于梯度下降。Muon 采用的少数次 Newton-Schulz 迭代恰好缓解了微小奇异值的负面影响,收敛速度甚至快于精确正交化。

  18. arXiv cs.LG33

    多模态推理的最小编辑策略内知识蒸馏方法

    研究人员提出用于多模态推理的最小编辑策略内知识蒸馏方法,利用教师模型评估错误推理并仅对教师不认可的 token 进行针对性修正,正确推理则接受任务奖励强化学习。该方法在测试阶段无需图像描述即可达到或超越基准模型输入参考描述的性能,显著增强了几何感知能力,且使用同尺寸冻结模型作为教师同样有效。

  19. arXiv cs.LG52

    医疗 AI 隐私风险自动化筛查:在训练前识别成员推理攻击高风险数据

    研究人员提出一种医疗 AI 隐私风险自动化筛查工具,能在生产模型训练前利用四个小型模型提前识别易受成员推理攻击的高风险患者记录。该研究在 6 个临床数据集和 4 种模态下测试了 7,789 个模型,发现高风险患者群体在不同架构、训练配方与基座模型中基本重合。增强权重衰减最多可将暴露群体规模减少至三分之一,团队建议将隐私筛查直接纳入临床 AI 的数据准备流程。

  20. arXiv cs.LG32

    异构边缘平台模型压缩技术评测:以旋转机械预测性维护为例

    一项针对工业旋转机械预测性维护的研究评测了 9 类异构计算平台上的 4 种模型压缩技术,结果显示知识蒸馏表现最有效。经知识蒸馏压缩的卷积神经网络模型体积缩减 98.9%,在所有设备上实现超过 90% 的推理加速,同时保持了 91.22% 的平衡 F-score,显著降低了计算与能源开销。

  21. arXiv cs.LG24

    用于嵌入式系统植物病害识别的轻量级群注意力网络 GANet

    研究人员提出了轻量级群等变注意力网络 GANet,专用于 38 种植物病害的预测与监测。该模型引入了群注意力模块与逐群特征融合模块,仅包含 0.001M 参数,在 PlantVillage 数据集上取得了 99.99% 的准确率。GANet 针对边缘设备进行了部署优化,在 Raspberry Pi 4b 和 Jetson Nano 上分别达到 5 FPS 和 11 FPS。

  22. arXiv cs.LG36

    提示词风格如何影响 AI 在竞赛编程中的准确率与运行速度

    一项针对 GPT-5.5 的探索性研究测试了 9 种风格的提示词,发现没有任何单一提示词在竞赛编程中表现最佳,最优选择取决于任务类型以及采用平均值还是中位数评估。研究涵盖 3 项国际信息学奥林匹克(IOI)准确率任务和 2 项 NP-hard 运行速度任务,指出均值差异多由少数离群运行导致。与人类 IOI 参赛者相比,GPT-5.5 在一项任务中超过平均选手,但另两项表现落后。

  23. arXiv cs.LG33

    预测不等于校准:知识追踪中的题目参数恢复与表征耦合

    知识追踪模型的作答预测准确率无法保证题目参数恢复,区分度更新直接受估计能力尺度影响。将序列表征宽度 $d_S$ 与参数键宽度 $d_M$ 解耦并采用 SK(64,8) 组合,可在不增加模型大小或降低精度下改善参数恢复与跨顺序一致性。在 TIMSS 和 EdNet 上加宽 $d_M$ 持续提升了与离线 IRT 的一致性,表明题目参数须脱离预测独立评估。

  24. arXiv cs.LG27

    稀疏贝叶斯学习的光谱不确定性分解方法

    研究人员针对 M/EEG 神经源成像等病态逆问题,提出了一种基于先验预条件正向算子奇异值结构的光谱框架。该框架将后验协方差精确分解为数据可知成分与由传感几何决定的不可约认知不确定性成分。团队还推导出了等效减法分解,可精确定量稀疏贝叶斯学习中的不确定性消除程度,为线性高斯贝叶斯逆问题求解器提供了可解释的不确定性量化工具。

  25. arXiv cs.LG40

    MoEZip:面向稀疏 MoE 大语言模型的路由感知 KV Cache 压缩

    MoEZip 是一种面向稀疏 MoE 大模型的路由感知 KV cache 压缩方法,解决了 KV 淘汰改变专家路由并损害生成质量的问题。该方法基于路由分布的 Fisher 信息矩阵评估敏感度,并结合注意力权重对上下文评分。在 10% 的 KV 保留率下,MoEZip 在 LongBench 和 RULER 上较 SOTA 基准平均提升 +24 和 +20 分,分别达到 2.3x 和 4.9x。

  26. arXiv quant-ph29

    空穴掺杂 Hubbard 模型中条纹序与超导的激烈竞争

    研究人员结合神经张量网络与神经反流态模拟,在大规模 GPU 计算支持下于多达 1024 个格点的晶格上达到了前所未有的变分精度。在 1/8 掺杂纯 Hubbard 模型及次近邻跃迁条件下,计算揭示了低能均匀 d 波态、超导条纹态与非超导条纹态在 milli-t 能量尺度上近乎简并。该发现颠覆了单一主导序的传统观点,表明条纹序与超导之间存在极度激烈的竞争。

  27. arXiv quant-ph42

    利用 AI Agent 实现量子线路优化自动化

    研究人员提出一种利用 AI Agent 自动化优化量子线路的通用方法,通过冻结的精确验证器确保每个优化结果均可被确证。该方法应用于费米子到量子比特编码、哈密顿量布局与酉算子合成三项任务,在最大测试规模下将优化成本最高降低 73%,性能超越现有 SOTA 优化器。每次程序提交均附带 Agent 笔记,便于后续 Agent 持续迭代。

  28. arXiv quant-ph34

    量子福克-普朗克求解器作为可训练生成模型

    研究提出一种基于随机微分方程量子求解器的可训练生成模型,通过参数化朗之万过程势能并求解福克-普朗克方程实现分布建模。该方法利用量子奇异值变换求解厄米化方程并编码平稳密度的平方根,支持通过计算基测量直接采样。得益于物理启发的归纳偏置,该模型具备凸优化特性且不受维度限制,在大规模高维数据下仍保持可训练。

  29. arXiv quant-ph26

    基于纠缠的特征图设计能否提升投影量子核?

    研究人员提出利用双量子比特纠缠的新型量子特征图,以捕捉物联网(IoT)数据中的多变量相关性并优化投影量子核(PQK)。该研究通过对比未调优与调优 PQK 及 RBF 基准,评估其在脱离经典超参数调优掩盖下的原生归纳偏置。结果表明,所提纠缠拓扑展现出显著更强的原生归纳偏置,证实量子力学特性可直接带来结构性提升。

  30. arXiv quant-ph32

    基于信息混合与分层网络架构的可扩展神经波函数

    研究者提出将 MLP Mixer 作为量子多体系统的波函数拟设,利用轻量级信息混合策略兼顾长程关联捕捉能力与低计算成本。在二维量子多体系统基态表征基准测试中,该架构性能可媲美 RNN 和 Transformer 模型。进一步将该模型与 Transformer 分层结合后,在大型量子系统上的表现超越了现有 SOTA 架构。

  31. arXiv quant-ph44

    Lean-QuantumAlg:让 AI 智能体生成人类可信量子算法的框架

    Lean-QuantumAlg 是一套基于 Lean 4 的量子算法形式化框架,旨在帮助 AI 智能体生成兼具正确性与资源边界保证的人类可信量子算法。该框架在 Grover 搜索以及针对 RSA-2048 和 P-256 的量子攻击等 9 个 AI 形式化算法上完成验证。在共享框架审计完成后,每个算法仅需不到 1% 的导入源代码接受语句级人工审查。

  32. arXiv stat.ML25

    稀疏地震计数的神经概率预测评估:严谨评估下哪些结论依然成立

    研究重新评估了天山与帕米尔区域每周地震计数的神经网络负二项模型,发现神经网络相比带有每网格截距的线性模型并无显著优势,偏差仅改善 3.4%(p=0.57)且若剔除单一网格周则反而落后 0.7%。评估证实包含 ETAS 在内的泊松预测严重低估了高频活动周的概率,存在 8.3 倍差距,而引入离散参数可消除此偏差。2024 年至 2026 年 9 月的盲测进一步验证了引入离散参数的模型优于泊松模型。

  33. arXiv stat.ML30

    基于观测数据的策略学习:HIV/HCV 共感染患者丙肝治疗案例研究

    研究者提出一种在多动作框架下利用观测数据推导策略规则的方法,通过加权 K-means 算法估计条件平均因果效应(CATE),并结合标准决策树落地可行规则。该方法应用于 HIV/HCV 共感染患者的丙肝治疗方案,成功识别出一个无需治疗即有约 80% 自发清除 HCV 概率的患者亚组。测算表明,在提升总体健康收益的同时,重新分配治疗可降低 CAN$2.5-4.5 million 的总治疗成本。