跳到正文

全部动态

今日 72 条
10月23日周五
  1. arXiv cs.LG32

    基于波数感知的拉曼光谱鲁棒分析深度学习方法

    研究提出一种将光谱点表示为强度与波数对、并直接依据波数计算 Transformer 位置编码的深度学习方法。在 3 种细菌及其混合物拉曼光谱以及公开的 30-isolate 细菌基准测试中,该方法在卷积、残差和 Transformer 网络中均表现出对噪声、稀疏采样和部分光谱覆盖的鲁棒性。在部分观测及未见采样网格的受控对比中,波数位置编码性能显著优于传统的基于索引和可学习编码。

  2. arXiv cs.LG43

    随机重新掩码扩展掩码扩散模型推理能力

    研究人员提出纯测试期的随机重新掩码去噪(R²D)推理方法与轨迹校正训练(TCT),通过随机重新引入掩码来修正掩码扩散模型解码过程中的不可逆错误。该方法在逻辑任务上呈现接近对数线性的测试期扩展能力,在困难数独和 3-SAT 上分别取得超 97% 和超 99% 的准确率。在语言任务评测中,该方案在 HumanEval+ 上超越了迭代校正基准及 LLaDA2.1-mini 的官方 Q-mode 准确率。

  3. arXiv cs.LG34

    联邦图检索增强生成 FedGRAG

    针对知识图谱分散且受隐私限制的问题,研究人员提出统一框架 FedGRAG,实现跨多客户端的分布式图检索与大语言模型知识增强生成。该框架通过轻量级知识索引的联邦路由识别相关客户端,并采用受控披露证据构建方法将子图转为摘要在服务端重构,避免泄露敏感图结构。实验表明 FedGRAG 在检索与下游生成任务上均持续优于现有基线。

  4. arXiv cs.LG32

    学习追踪移动目标的可解模型研究

    研究者提出了一个用于开环目标追踪的连续时间线性二次可解模型,推导出了最优控制策略、策略学习动态与价值学习动态的闭式解。该模型通过少量可解释参数在反应式追踪与预测性追踪之间插值,并揭示学习时间尺度对应特定矩阵的特征值。特征值谱的间隙表明,智能体通常会先学会触碰目标,随后才优化其运动轨迹。

  5. arXiv cs.LG33

    用于手腕 PPG 心率估计选择性校正的工具与记忆智能体架构

    研究人员提出一种具备工具与记忆的智能体架构,通过独立风险门控对手腕 PPG 心率估计进行选择性校正。该架构跨 PPG-DaLiA、GalaxyPPG 等 4 个公开数据集测试,使 10 个估计器的宏平均 MAE 最高降低 44.5%。团队还完成了智能手机端实时部署,原型记录的宏平均 MAE 从 9.09 bpm 降至 4.45 bpm。

  6. arXiv cs.LG37

    FlowGDA:利用 Flow Matching 学习域轨迹实现渐进式域自适应

    研究人员提出 FlowGDA 框架,利用 Flow Matching 将渐进式域自适应建模为表征空间统计流形上的连续传输。该方法采用免模拟回归目标替代对抗训练来学习平滑域轨迹,并通过源域锚定传输、语义一致性损失及两阶段序列优化防止语义漂移。实验表明其性能超越现有 SOTA 技术,论文已被 NeurIPS 2026 接收。

  7. arXiv cs.LG38

    通过行为反事实解释模型推理

    研究人员提出一种基于行为反事实解释模型推理过程的方法,通过训练模块编辑残差流,最小化固定回复在不同提示词下的输出分布 KL 散度以复现反事实行为。在 Gemma-4-E4B-it 与 DeepSeek-R1-0528-Qwen3-8B 上的案例研究显示,外部建议即便未被模型明确提及,也会通过问题表述与填充 token 处的表征显著改变论证框架甚至最终答案。

  8. arXiv cs.LG36

    时间序列异常检测的未来:从历史回顾到统一展望

    时间序列异常检测(TSAD)综述全面梳理了扩散模型、状态空间模型与 LLM 等新兴架构,并构建起细化的异常分类与范式分类体系。该研究系统分析了现有评估方法并通过实验检验指标保真度,同时开源了包含算法、数据集和评估工具的基准仓库。此外,论文还指出了动态阈值、模型可解释性、零样本迁移及时间序列基座模型等开放挑战。

  9. arXiv cs.LG34

    结合强化学习与大语言模型应对金融新闻时效性衰减的投资组合配置研究

    研究探讨了如何在大语言模型与强化学习的投资组合策略中处理时效性衰减的金融新闻,并评估了扣除交易成本后的收益表现。在2023-2025年的历史测试中,强化学习加入时序信息并未带来持续的收益提升。而大语言模型直接过滤过时新闻取得了最高的平均净收益,在新闻延迟4周时年化收益率达18.43%,超过了所有使用新闻的强化学习策略。

  10. arXiv cs.LG32

    NEST:面向多尺度聚类的嵌套嵌入表征框架

    研究人员提出无监督框架 NEST,借鉴 Matryoshka Representation Learning,在单个嵌入向量中编码由粗到细的多尺度聚类结构。该方法在嵌套前缀子空间中联合优化聚类与分离度,随嵌入维度增加实现更精细的区分,并通过秩和类内正则化防止表征坍缩。实验表明,NEST 仅需各层级聚类数即可恢复合成层级结构,并在视觉、文本及单细胞数据中验证了多尺度组织能力。

  11. arXiv cs.LG34

    速率约束下的最优多任务表征:一项信息瓶颈分析

    研究人员通过多任务信息瓶颈框架,分析了在信息预算限制下哪种预训练目标能为下游任务产生最优表征。针对高斯输入与任务的分析表明,弱任务对齐的专用模型在低速率下优于重构通用模型,但在高速率下会落后;基于平均任务信息矩阵定义的目标则具有受最大任务 SNR 控制的一致相对遗憾界。CelebA 和 dSprites 实验进一步证实,压缩会改变表现最优的预训练目标。

  12. arXiv cs.LG39

    反思 SAE 评估:原子可解释单元框架揭示隐藏的多义性与冗余

    研究者提出了原子可解释单元基底这一稀疏自编码器(SAE)评估新范式,并引入包含 DAME 的综合基准测试框架。评测跨多个架构和模型族的数百个 SAE 发现,部分 SAE 在现有指标下表现单义,但对模型计算贡献最大的核心主导特征在功能上依然具有多义性且冗余度更高。该研究建议在将 SAE 用于归因、回路追踪或干预前,将主导感知评估作为标准检查。

  13. arXiv cs.LG35

    DiffLTM:用于条件生成的大型表格连续扩散模型

    研究者提出了用于条件生成的大型表格连续扩散模型 DiffLTM。该模型对类别特征采用交叉熵损失并给出了首个理论证明,引入了针对罕见子群体的评估指标,并推广了条件生成技术以支持新型条件设定。在劳动力数据上的训练表明,DiffLTM 能够捕捉计量经济学的经典洞见,相关代码已开源。

  14. arXiv cs.LG35

    Short-to-Long:用于长周期价值学习的分离特征方法

    研究者提出 Short-to-Long(S2L)方法,通过较小折扣因子的源网络为长周期行为学习器提供特征表示。该方法利用分离连接阻止行为价值损失更新源网络,在保持长周期行为折扣目标不变的同时降低目标漂移。在 57 款 Atari 游戏中,S2L 在 40 款游戏中提升了配对终端中位数,并在在线与离线连续控制任务中均实现综合性能提升。

  15. arXiv cs.LG28

    结构扰动下符号图的稳定性分析

    研究者针对包含正负交互的符号图,分析了图滤波器在边添加、删除及符号翻转等结构扰动下的表示稳定性。理论分析表明,符号边扰动与节点特征相关性共同决定了表征稳定性,据此提出了一种基于理论指导的扰动策略。在合成与真实符号图上的实验表明,该方法比基线能引发更大的嵌入向量漂移、极性改变及下游链路预测性能下降。

  16. arXiv cs.LG33

    迈向保真数据选择:统计极限与可扩展算法

    新研究证明在缺乏超大规模验证集时,信息论上无法选出使总体误差最小的最优训练子集,并据此提出了以“保真度(faithfulness)”为目标的新数据选择框架。该方法利用未调整朗之万算法建模训练,通过累积梯度差异约束参数分布的 KL 散度,并设计了可单调降低该界限的交换局部搜索算法。方案在 CIFAR10 和 CIFAR100 上匹敌现有基线,相关代码已开源。

  17. arXiv cs.LG34

    基于扰动一致性与置信度校准的记忆增强脑电运动想象在线测试时自适应框架 MOPC

    研究者提出了用于脑电运动想象的无源在线测试时自适应框架 MOPC,可在推理阶段实时更新解码参数并实现单遍自适应。该框架结合随机掩码扰动增强预测一致性,设计置信度校准重加权损失缓解伪标签不可靠问题,并引入轻量级记忆模块防止灾难性遗忘。在 BCI IV IIb 和 OpenBMI 数据集上,MOPC 相比已有方法分别提升 2.22% 和 3.67%,单次试验自适应延迟仅约 40-60 ms。

  18. arXiv cs.LG36

    AcoustiPrint:面向可制造声学结构的物理引导神经反向设计方法

    研究人员提出 AcoustiPrint 物理引导神经架构,利用隐式神经表示(INR)和可打印性算子实现可制造声学结构的约束反向设计。该方案通过代理梯度与自监督可打印性目标,使包含层级自支撑、离散材料选择与连通性等非微分制造约束支持反向传播。在个性化经颅聚焦超声测试中,该方法联合优化三维几何与材料构成,聚焦精度超越基于密度和基于相位的基准。

  19. arXiv cs.LG34

    持续同调通过多模态图神经网络实现跨物种离子通道分类

    研究人员提出融合 ESM-2 序列嵌入与二硫键感知图注意力网络的多模态模型 PH-GNN,利用持续同调表征实现跨物种的毒素离子通道分类。在包含 5 个分类群、1,373 种 ColabFold 预测毒素分子的留一物种评估中,序列基线准确率跌至约 30%,其他几何先验模型聚集在 54-55%,而 PH-GNN 达到 63.4%,领先次优方法 8 个百分点以上。

  20. arXiv cs.LG40

    大语言模型安全相关行为的探测与干预研究

    研究人员针对 Llama-3.1-8B-Instruct 模型,评估了激活探测在欺骗、高风险意识和阿谀奉承三种安全相关行为中的检测与干预表现。实验发现逻辑回归探测在欺骗和高风险场景下更擅长检测,而均值差方向更擅长干预,但该规律在阿谀奉承任务中出现反转。相关探测器与干预方向已接入交互式界面,支持用户直接评分并干预文本输出。

  21. arXiv cs.LG33

    用于视觉任务的脉冲感知梯度混合精度脉冲神经网络量化方法

    研究人员提出了一种面向脉冲神经网络(SNN)的脉冲感知基于梯度的混合精度量化框架,利用一阶梯度自适应分配位宽,无需昂贵的高阶 Hessian 计算。在 ImageNet 上的 ResNet-34 评测中,该方法在 4.78x 压缩下达到 73.30% 准确率,效果匹敌 HAWQ-V2 的同时将内存开销降低 2.31x,位分配运行时间缩短 100x。

  22. arXiv cs.LG42

    GAV:面向 PDE 智能体的科学实验环境

    GAV 是一个面向 PDE 智能体的科学实验环境,利用制造解方法反向构造新偏微分方程问题,实现无需单独求解即可直接验证。系统包含生成器、智能体与验证器,可依据精度与计算成本反馈迭代优化程序,并针对弱点生成测试。在数值 Navier-Stokes 任务中,GAV 将 3 个现有 PDE 智能体的平均测试误差降低了一个数量级以上,代码已开源。

  23. arXiv cs.LG31

    面向 DAG 采样的 Metropolis-Hastings 算法泛化研究

    研究者提出名为 duet sampling 的 Metropolis-Hastings 泛化算法,通过在每次迭代中从候选池选择两个提议分布,分别用于生成候选状态和评估返回当前状态。该方法支持同时对有向无环图(DAG)中多个节点的父节点进行重采样,在不增加额外计算成本的前提下提升马尔可夫链的混合效率。实验表明,新设计的采样操作无论单独还是组合使用,表现均超越以往 SOTA 方法。

  24. arXiv cs.LG46

    从二次型视角看 Muon 的极分解更新:优势、陷阱与 Newton-Schulz 的作用

    研究人员通过矩阵二次型理论分析了优化器 Muon 核心的正交化更新 PolarGD,揭示了其训练大语言模型优于 AdamW 的机理与潜在瓶颈。分析表明,PolarGD 的收敛速度取决于当前迭代矩阵的条件数而非 Hessian 矩阵,但极小的奇异值会导致其速度远慢于梯度下降。Muon 采用的少数次 Newton-Schulz 迭代恰好缓解了微小奇异值的负面影响,收敛速度甚至快于精确正交化。

  25. arXiv cs.LG33

    多模态推理的最小编辑策略内知识蒸馏方法

    研究人员提出用于多模态推理的最小编辑策略内知识蒸馏方法,利用教师模型评估错误推理并仅对教师不认可的 token 进行针对性修正,正确推理则接受任务奖励强化学习。该方法在测试阶段无需图像描述即可达到或超越基准模型输入参考描述的性能,显著增强了几何感知能力,且使用同尺寸冻结模型作为教师同样有效。

  26. arXiv cs.LG52

    医疗 AI 隐私风险自动化筛查:在训练前识别成员推理攻击高风险数据

    研究人员提出一种医疗 AI 隐私风险自动化筛查工具,能在生产模型训练前利用四个小型模型提前识别易受成员推理攻击的高风险患者记录。该研究在 6 个临床数据集和 4 种模态下测试了 7,789 个模型,发现高风险患者群体在不同架构、训练配方与基座模型中基本重合。增强权重衰减最多可将暴露群体规模减少至三分之一,团队建议将隐私筛查直接纳入临床 AI 的数据准备流程。

  27. arXiv cs.LG32

    异构边缘平台模型压缩技术评测:以旋转机械预测性维护为例

    一项针对工业旋转机械预测性维护的研究评测了 9 类异构计算平台上的 4 种模型压缩技术,结果显示知识蒸馏表现最有效。经知识蒸馏压缩的卷积神经网络模型体积缩减 98.9%,在所有设备上实现超过 90% 的推理加速,同时保持了 91.22% 的平衡 F-score,显著降低了计算与能源开销。

  28. arXiv cs.LG24

    用于嵌入式系统植物病害识别的轻量级群注意力网络 GANet

    研究人员提出了轻量级群等变注意力网络 GANet,专用于 38 种植物病害的预测与监测。该模型引入了群注意力模块与逐群特征融合模块,仅包含 0.001M 参数,在 PlantVillage 数据集上取得了 99.99% 的准确率。GANet 针对边缘设备进行了部署优化,在 Raspberry Pi 4b 和 Jetson Nano 上分别达到 5 FPS 和 11 FPS。

  29. arXiv cs.LG36

    提示词风格如何影响 AI 在竞赛编程中的准确率与运行速度

    一项针对 GPT-5.5 的探索性研究测试了 9 种风格的提示词,发现没有任何单一提示词在竞赛编程中表现最佳,最优选择取决于任务类型以及采用平均值还是中位数评估。研究涵盖 3 项国际信息学奥林匹克(IOI)准确率任务和 2 项 NP-hard 运行速度任务,指出均值差异多由少数离群运行导致。与人类 IOI 参赛者相比,GPT-5.5 在一项任务中超过平均选手,但另两项表现落后。

  30. arXiv cs.LG33

    预测不等于校准:知识追踪中的题目参数恢复与表征耦合

    知识追踪模型的作答预测准确率无法保证题目参数恢复,区分度更新直接受估计能力尺度影响。将序列表征宽度 $d_S$ 与参数键宽度 $d_M$ 解耦并采用 SK(64,8) 组合,可在不增加模型大小或降低精度下改善参数恢复与跨顺序一致性。在 TIMSS 和 EdNet 上加宽 $d_M$ 持续提升了与离线 IRT 的一致性,表明题目参数须脱离预测独立评估。

  31. arXiv cs.LG27

    稀疏贝叶斯学习的光谱不确定性分解方法

    研究人员针对 M/EEG 神经源成像等病态逆问题,提出了一种基于先验预条件正向算子奇异值结构的光谱框架。该框架将后验协方差精确分解为数据可知成分与由传感几何决定的不可约认知不确定性成分。团队还推导出了等效减法分解,可精确定量稀疏贝叶斯学习中的不确定性消除程度,为线性高斯贝叶斯逆问题求解器提供了可解释的不确定性量化工具。

  32. arXiv cs.LG40

    MoEZip:面向稀疏 MoE 大语言模型的路由感知 KV Cache 压缩

    MoEZip 是一种面向稀疏 MoE 大模型的路由感知 KV cache 压缩方法,解决了 KV 淘汰改变专家路由并损害生成质量的问题。该方法基于路由分布的 Fisher 信息矩阵评估敏感度,并结合注意力权重对上下文评分。在 10% 的 KV 保留率下,MoEZip 在 LongBench 和 RULER 上较 SOTA 基准平均提升 +24 和 +20 分,分别达到 2.3x 和 4.9x。

  33. arXiv quant-ph29

    空穴掺杂 Hubbard 模型中条纹序与超导的激烈竞争

    研究人员结合神经张量网络与神经反流态模拟,在大规模 GPU 计算支持下于多达 1024 个格点的晶格上达到了前所未有的变分精度。在 1/8 掺杂纯 Hubbard 模型及次近邻跃迁条件下,计算揭示了低能均匀 d 波态、超导条纹态与非超导条纹态在 milli-t 能量尺度上近乎简并。该发现颠覆了单一主导序的传统观点,表明条纹序与超导之间存在极度激烈的竞争。

  34. arXiv quant-ph42

    利用 AI Agent 实现量子线路优化自动化

    研究人员提出一种利用 AI Agent 自动化优化量子线路的通用方法,通过冻结的精确验证器确保每个优化结果均可被确证。该方法应用于费米子到量子比特编码、哈密顿量布局与酉算子合成三项任务,在最大测试规模下将优化成本最高降低 73%,性能超越现有 SOTA 优化器。每次程序提交均附带 Agent 笔记,便于后续 Agent 持续迭代。