跳到正文

#论文/研究

今日 0 条
10月9日周五
  1. arXiv quant-ph29

    量子线性回归中的散粒噪声效应研究

    研究表明,非变分量子线性回归因特征需从有限测量次数估计,会导致模型出现不可避免的病态条件。有限采样产生的系统预测误差随单状态采样次数 N 呈二次方反比衰减,仅增加训练集规模无法消除采样噪声误差。若训练目标存在噪声,测试误差甚至会随 N 增加而上升并诱发量子过拟合,揭示了数据量与单状态采样预算间的根本权衡。

  2. arXiv quant-ph35

    超越 QAOA:面向自适应组合优化的 AI 与量子计算综述

    一项涵盖 119 篇论文的综述显示,AI 辅助量子优化的实证支撑显著强于量子赋能 AI,机器学习已能有效减少量子评估次数、优化初始化并缓解噪声。但当前实验控制普遍薄弱,中位数实验仅使用 17 个量子比特,57 项研究中有 25 项未包含经典基线,且在 M0-M5 证据层级的最高水平上尚未发现确凿的实用优势。

  3. arXiv quant-ph28

    基于量子神经网络用于流模型执行的高效量子线路

    研究人员提出一种基于量子神经网络(QNN)的高效量子线路,通过模拟波函数流在量子计算机上实现流模型的高效执行。该方法将训练好的 QNN 整合进相位反冲框架,替代原有的量子只读存储器(QROM)进行数据编码。数值实验表明,该方案在保持波函数流模拟精度的同时,显著降低了所需的量子线路资源。

  4. arXiv quant-ph33

    光子储层计算中干涉何时有助于学习:基于核几何的预实验测试

    研究人员通过玻色采样特征图的核几何,提出了一种光子储层计算的预实验评估协议。多光子干涉将特征方差重分布至约 2 倍的有效维度,在当前量子处理器光源质量下能保留约 80% 的几何分离,并在对抗任务上实现 +0.22 ± 0.05 的准确率优势。该指标受核与任务对齐度制约,可在投入硬件资源前预先计算特定任务能否利用干涉学习资源。

  5. arXiv quant-ph30

    Q-Capsule:用于缓解贫瘠高原的局部胶囊化量子神经网络架构

    Q-Capsule 是一种用于缓解量子神经网络贫瘠高原问题的局部胶囊化架构,能在寄存器宽度增加时保持稳定的梯度方差。该架构采用稀疏胶囊间耦合与 QFIM 引导的自适应深度增长,在二分类和四分类任务中分别达到 98.1% 与 97.7% 的准确率。在多分类任务上,其使用的双量子比特门比固定深度模型减少约 73%。

  6. arXiv quant-ph24

    分布式量子特征提取揭示 OAM 编码量子比特的结构化泄漏

    研究人员提出了一种 OAM 传播的逻辑量子比特表示,并基于此开发出分布式量子特征提取方案,揭示了湍流引发的结构化信息泄漏。该方案将高维 OAM 态转换为量子表示,并通过量子卷积操作提取抗湍流特征;仿真与实验表明,该方法在多种湍流强度、OAM 阶数及传播条件下均具备鲁棒性。

  7. arXiv quant-ph30

    量子保真度估计的不确定性量化

    研究提出一种融合贝叶斯信息的共形预测框架,为量子态保真度估计提供无分布假设的严格预测区间。该框架兼容经典点估计器与数据驱动的神经网络估计器,在有限样本噪声、物理模型误差及分布外数据等实验挑战下均能保持统计有效性。其中,基于类别条件共形预测的变体表现最佳,能够高度逼近真实置信区间所需的条件覆盖率。

  8. arXiv quant-ph25

    面向量子 LDPC 码的单次魔术态工厂

    研究人员提出一种面向量子 LDPC(qLDPC)码的单次魔术态工厂,结合 tricycle 码与 quadcycle 码实现容错非 Clifford 门。在 $10^{-3}$ 物理错误率下,该工厂能以低至 $10^{-9}$ 逻辑错误率生成 CCZ 态,时空成本较现有 SOTA 方法降低 10-40 倍。团队还通过 AI 辅助搜索确定了编码,并给出了中性原子量子计算机上的具体实现方案。

  9. arXiv quant-ph32

    论量子混沌动力学机器学习中的线性与非线性

    研究人员将量子动力学建模为时间序列预测问题,并在少量子比特 PXP 链基准上对比了非线性 Transformer 与简单线性模型 DLinear。测试显示 Transformer 在高遍历性机制下预测准确,但在接近量子多体疤痕极限时性能逐步恶化;DLinear 则在各类初始状态下均保持高精度预测。这表明复杂量子多体动力学的可观测量可通过简单的线性映射实现准确预测。

10月8日周四
  1. Apple ML Research39

    规范化轨迹模型 NTM(Normalizing Trajectory Models)

    研究人员提出规范化轨迹模型 NTM,将少步生成中的反向步骤建模为具备精确似然训练的条件规范化流。NTM 架构结合了单步浅层可逆块与跨轨迹深层并行预测器,支持从头训练或从预训练流匹配模型初始化。在文生图基准测试中,NTM 仅需 4 步采样即可匹配或超越强基准,同时保留了生成轨迹的精确似然。

  2. arXiv cs.LG34

    目标条件策略学习中的信息视界诅咒

    研究发现在目标条件策略学习中存在“信息视界诅咒”,增大目标重标记视界会降低动作与目标的条件互信息,显著削弱策略性能与泛化。目标条件行为克隆(BC)会出现严重的视界相关性能退化,强化学习(RL)可缓解该退化,且策略敏感性会从目标转向状态。将短视界策略的输入雅可比蒸馏至长视界策略,在组合操作任务中取得了显著性能提升。

  3. arXiv cs.LG31

    基于数据对称性的因果偏识别

    新研究提出将已知数据对称性引入因果偏识别(PI)作为约束条件,有效收紧了因果效应的估计边界。该方法通过因果函数的形状约束以及基于数据预处理的测度变换实现,在两个经典偏识别模型中均证实可显著收紧边界。理论推导与有限样本实验均表明,数据对称性可作为鲁棒因果推断中高效且未被充分利用的先验知识。

  4. arXiv cs.LG38

    用于无数据扩散模型蒸馏的一致性分布匹配方法

    新研究提出 Consistent Distribution Matching,一种面向扩散与流模型的无模拟、无数据知识蒸馏方法。该方法用单个学生网络统一样本生成与得分估计,仅需一个冻结教师网络和一个学生网络并优化单一目标。在 ImageNet 256×256 上,其在 40 个 epoch 内达到 1-NFE FID 2.04 和 4-NFE FID 1.37,相关代码与模型已开源。

  5. arXiv cs.LG35

    CurveTQ:基于曲率加权搜索的大语言模型权重无旋转网格量化

    CurveTQ 是一种无需旋转变换的大语言模型权重网格量化方法,通过将 Hessian 矩阵权重引入 Viterbi 搜索直接按曲率优化。在 2-bit 设置下,其在三款 4-8B Instruct 模型上的平均下游准确率比 QTIP 和 Proteus 高 1-3 个点,并在 35B MoE 模型上保持领先。因解码时无需撤销旋转,其速度在所有测试批次大小和位宽下均为三者中最快。

  6. arXiv cs.LG33

    P$^3$ 框架:什么才算医学世界模型中的个性化?

    研究提出 P$^3$ 审计框架,用于评估医学世界模型是否真正基于患者纵向历史超越群体平均水平实现个性化。配合提出的 Cancer JEPA 模型可预测新辅助治疗期间未来的乳腺动态对比增强 MRI 表征。验证显示输入患者历史虽能降低误差,但与群体平均神经修正对比的 95% 区间包含零,表明 P$^3$ 能有效鉴别出真正的个体化预测价值。

  7. arXiv cs.LG34

    Q-PACE:用于量化感知训练的动态精度分配方法

    研究人员提出面向量化感知训练(QAT)的动态精度分配方法 Q-PACE,利用二阶敏感度模型预测量化损失并定期重新分配各层精度。在参数规模最高达 4B 的大语言模型预训练与监督微调实验中,该方法优于现有混合精度训练方案,能在显著降低总内存预算的同时保持相当的损失表现。此外,量化敏感度在训练期间高度稳定,仅需低频、低开销的重新校准。

  8. arXiv cs.LG28

    用于车辆轨迹预测的上下文感知注意力高斯混合模型 CAA-GMM

    研究人员提出上下文感知注意力高斯混合模型 CAA-GMM,用于实现多模态且具备不确定性感知的车辆运动预测。该方法结合场景上下文与智能体动态,利用轻量级注意力机制融合光栅化环境线索与运动历史。在 nuScenes 和 Argoverse 2 数据集上的评估表明,CAA-GMM 在保持低计算复杂度的同时达到或超越 SOTA 光栅化基线。

  9. arXiv cs.LG36

    给提示词加噪:连续扩散语言模型中的条件 Token 加噪方法

    连续扩散语言模型研究提出在训练中对条件提示词 token 加噪,仅需修改单行代码且默认无额外推理开销。该方法使 Sudoku Hard 求解率从 3.73% 提升至 24.65%,10x10 N-Queens 覆盖率由 50.60% 增至 73.79%。其还在 Gigaword 摘要上提升了生成质量,但无法迁移至开放式对话任务,代码已公开。

  10. arXiv cs.LG26

    检测亲和与恋爱投资诈骗的认知感知 QML-CRL 混合框架

    研究人员提出一种结合量子机器学习与经典强化学习的 QML-CRL 混合框架,通过建模操纵性对话中的认知偏差检测亲和与恋爱投资诈骗。该框架利用专用量子比特编码偏差与时序结构,并与经典强化学习智能体联合训练,将逐轮标记对话建模为最优停止问题。模型在包含硬负例、紧急对话及强势销售的合成对话上完成了性能评估。

  11. arXiv cs.LG31

    基于方向证据的精确 DAG 学习搜索空间缩减方法

    研究者提出非参数混合框架 DECO,在精确优化前从观测数据中提取依赖与方向证据构建容许父集,以缩减精确 DAG 学习的搜索空间。理论分析表明该方法可实现容许父集配置空间的指数级缩减,并量化了保留真实父结构的概率。在基准贝叶斯网络及合成 DAG 实验中,DECO 显著降低了搜索负担,并取得了具有竞争力的结构恢复与结构汉明距离表现。

  12. arXiv cs.LG32

    面向金属增材制造的条件 Flow Matching 领域感知自适应采样 PINN

    研究提出基于条件 Flow Matching 的领域感知两阶段自适应采样框架,以提升物理信息神经网络(PINN)在金属增材制造热建模中的泛化能力。该方法通过条件 Flow Matching 学习不同工艺条件的高残差分布,并结合领域基分布生成自适应配置点以精炼预测器。在金属增材制造数值基准测试中,相同配置预算下该方法相比 SOTA PINN 基线使相对 L2 误差平均降低 62.1%。

  13. arXiv cs.LG39

    空间归纳头:多维元胞自动机的上下文学习

    研究提出空间归纳头(spatial induction heads),揭示 Transformer 架构如何通过两层“收集与匹配”电路在扁平化多维元胞自动机中实现上下文学习。该电路第一层重构空间局部邻域,第二层实现贝叶斯计数以匹配历史模式。实验表明两层 Transformer 成功泛化至一维和二维未见规则,在随机规则下与贝叶斯最优预测器的 KL 散度小于 0.005 nats。

  14. arXiv cs.LG42

    PEFT 方法真的存在本质差异吗?

    研究人员在语言和扩散模型中对比了六种 PEFT 方法,发现 LoRA 族方法同样能近似保持预训练几何特征,显式谱保持并非必需。测试显示,LoRA 能最稳定地抑制遗忘,DoRA 在多数对比中取得更高平均任务得分,而 PiSSA 的遗忘代价往往更大。研究还表明恢复主谱分量可最大程度降低通用文本 NLL 与基础图像漂移,相关代码已开源。

  15. arXiv cs.LG34

    欺骗性老虎机问题:探索耦合与多智能体学习的脆弱性

    对抗智能体可利用与受害者探索相关的泄露信号注入外部性,将多智能体学习动态引向新的稳态“欺骗纳什均衡”(DNE)。欺骗性老虎机学习(DBL)动态能在放宽二阶平滑性条件并保持最优收敛速率的同时,收敛至 DNE 的任意小邻域。该研究明确了欺骗改变稳态的条件及对成本的影响,并在资源分配博弈中验证了这一脆弱性。

  16. arXiv cs.LG39

    打破微调语音识别中的对抗可迁移性

    新研究提出微调框架 TransferBreaker,旨在阻断公开基座模型迁移至微调语音识别(ASR)模型的对抗扰动攻击。该框架整合了 Base Adversarial Fine-Tuning、Latent Jacobian Regularization 与 HybridGrad-AFT,在 3 种语言和 4 个大型 ASR 模型上将对抗 WER 从 92.6 降至 27.8。

  17. arXiv cs.LG43

    凸凹强化学习(CCRL)

    研究提出凸凹强化学习(CCRL),证明策略优化在对数密度比坐标下可精确转化为受凸差约束的凸差规划。该方法使用顺序凸规划(SCP)求解并提供收敛保证,将 CPI、NPG、TRPO 和 AWR 作为特例统一。在医疗模拟任务中,CCRL 比调优后的 PPO 收敛显著更快,训练曲线下面积提升 11.3%。

  18. arXiv cs.LG36

    我们真的在评测预测模型吗?数据预处理对时间序列性能的影响

    一项时间序列预测基准研究指出,当前评测忽视数据预处理造成的结构性偏差掩盖了简单架构的潜力。在 29,000 条 M4 时间序列上测试 11 种预测模型与 16 种可逆预处理流程显示,针对单序列优化预处理可带来约 27% 至 87% 的性能提升。这使得缺乏内置处理的较简单架构能够媲美复杂 SOTA 模型,所有数据已整理为元数据集。

  19. arXiv cs.LG34

    MaRK:状态空间模型中用于动态算子条件化的马尔可夫自适应循环核

    MaRK 提出了面向状态空间模型(SSM)的动态算子条件化框架,将上下文向量直接映射为冻结 SSM 循环参数的有界调制以重塑记忆核。在 111M 参数 Hydra SSM 骨干上,该方法仅需 6.3–11M 可训练参数即可完成扩散适配,并具备解析稳定性保证。其中切比雪夫变体表现最佳,平均验证损失达 2.55,优于 DCT(2.59)与 Hypernet(3.77)。

  20. arXiv cs.LG35

    面向多维序列建模的 Tucker 瓶颈注意力机制 TuBA

    研究人员提出 Tucker 瓶颈注意力机制(TuBA),通过将隐藏张量投影至低秩紧凑核心执行注意力与线性投影,实现面向多维长序列的亚二次方计算复杂度。该机制还支持核心内双向交互与核心间因果注意力相结合的自回归扩展。相比标准自注意力,TuBA 在视频预测上最高降低 24.7% 误差与 66.6% 计算量,在自回归天气预报中降低 37.1% 误差与 85.1% 计算量,加速达 4.27 倍。

  21. arXiv cs.LG34

    TAP:基于轨迹锚定恢复的高效长程智能体剪枝框架

    研究团队提出首个针对强化学习训练智能体的结构化剪枝框架 TAP,通过轨迹锚定恢复降低长程智能体的高昂推理成本。在移除 60% FFN 通道的情况下,TAP 在 7B 密集智能体的 ALFWorld 与 WebShop 评测中分别保留了 99.2% 和 88.0% 的任务成功率,单次成功任务的 GPU 时间分别减少约 22% 和 17%。

  22. arXiv cs.LG36

    基于 LLM 蒸馏的多标签主题归类:生成式与判别式学生模型对比分析

    一项研究系统评估了基于 LLM 知识蒸馏的多标签分类任务中,1B、4B 和 8B 规模的生成式与判别式(DeBERTa-V3、ModernBERT)学生模型表现。测试显示判别式模型在结构化商品评论中占优,但 1B 生成式模型在复杂多轮对话中反超基线;面对多达 112 个主题扩展时生成式模型依然稳健,而判别式基线的 Macro-F1 剧降 35%。相关优化模型已在全球电商生产环境中部署落地。

  23. arXiv cs.LG34

    EDiS:面向图神经网络的边不相交子图稀疏化框架

    EDiS 提出了一种面向图神经网络的边不相交子图稀疏化框架,将一次性结构提取与跨 epoch 的图重组解耦。该方法先将图一次性分解为可缓存的边不相交子图,无需重复计算即可在各 epoch 按边预算动态重组成训练图。在 19 个节点分类基准与 17 个基线的对比中,EDiS 在相同边预算下取得了最高的平均基准分数与最低平均排名。

  24. arXiv cs.LG40

    MATCHA:利用显式多对多层映射学习跨模型激活对齐

    MATCHA 是一种跨模型激活对齐方法,通过提示词联合学习显式层映射矩阵与隐藏空间特征映射。在涵盖 3 个家族、7 个模型的 42 对模型测试中,该方法大幅提升了激活重构与检索指标,并证实目标层与源层普遍呈现多对多映射。该对齐方案还支持在不同模型间直接迁移 steering vectors 和探针等激活空间干预手段。

  25. arXiv cs.LG35

    有限特征联想记忆的几何容量理论

    该研究针对压缩有限特征赫布联想记忆的精确键检索提出了一套几何容量理论。理论将检索干扰解耦为随特征维度衰减的有限特征噪声与由键核重叠决定的结构干扰,并在存储值相关时推导了结合键核与值 Gram 矩阵的近似。该框架在合成、视觉及医学图像表征上得到验证,可免拟合预测检索质量与所需特征预算。

  26. arXiv cs.LG36

    自剪枝 Transformer:基于 Universal Attention 的极致 KV cache 压缩

    Universal Attention 架构通过整合复合衰减机制并保留 RoPE 与 Softmax attention,实现了端到端训练的自适应 KV cache 剪枝。实验显示,该方法在自然语言和合成任务中取得了 10x 的 SOTA 压缩率,下游性能甚至优于未剪枝基线。在长上下文泛化测试中,该架构在 16k 长度下实现了 25x 的压缩率。

  27. arXiv cs.LG34

    迈向金融世界模型

    研究提出面向金融世界模型的表征方案,并发布涵盖 2008 至 2025 年美股近 1 万亿条 1 Hz 分辨率观测数据的 Market-1T 数据集。该工作对比了近二十年市场环境下的 18 种编码器训练策略,发现预测表现相近的编码器对市场状态的组织方式差异显著。此项研究为 DINO-WM、V-JEPA 2 和 LeWM 等金融世界模型的训练与评估奠定了基础。

最多提供 50 页,更早的内容请使用搜索或主题页。