跳到正文

全部动态

今日 1 条
10月12日周一
  1. arXiv cs.LG37

    基于不动点流匹配(FFM)的强化学习

    研究提出不动点流匹配(Fixed-point Flow Matching, FFM),这是一种无需训练数据即可在强化学习中训练和微调流策略的新方法。该方法将 Actor 更新形式化为不动点迭代,以 Critic 的动作梯度作为流匹配回归目标,且理论证明最优策略为该迭代的不动点。实验表明,FFM 既能在离线到在线场景中微调预训练流策略,也能在在线强化学习中从零高效训练流策略。

  2. arXiv cs.LG38

    生成模型何时能充当模拟器

    研究探讨了生成模型通过可编辑性充当模拟器的条件,即修改模型潜状态能否产生与编辑模拟器状态相同的下一步输出。研究对比了训练探针引导和直接学习逆映射两种方式,并在离散棋盘游戏奥赛罗(Othello)与连续环境 Rayworld 中进行了验证。实验发现两种映射的成效高度取决于环境,且逆映射成功证明了模型可被其从未学习过的模拟器所驱动。

  3. arXiv cs.LG25

    基于条件变分自编码器集成的冲击响应谱逆向时间序列合成

    研究人员提出基于条件变分自编码器(CVAE)集成的逆向合成方法,通过循环解码器预测多尺度小波系数重构冲击波形。该方法在四个保留基准数据集上的光谱误差均低于早期时域 CVAE 与 SDS 基准。其单模型批推理每条波形仅需约 0.1-0.6 ms,相比 SDS 的 5-8 s 实现了大幅加速,能快速生成多种匹配目标冲击响应谱(SRS)的候选波形。

  4. arXiv cs.LG43

    在大规模推理与训练负载中部署 RDMA

    字节跳动研发并在参数服务器推理与训练系统中部署了基于硬件 RDMA 的软件通信层 ByteExpress。在生产环境推理中,ByteExpress 相比内核 TCP 分别将平均与 P99 模型参数拉取延迟降低 35.7% 和 43.7%,并降低 10.69% 的总 CPU 使用率。在训练场景下,其将 P99 模型参数推送延迟最多降低 74.0%,且运行时未出现 PFC 暂停。

  5. arXiv cs.LG27

    跨图规模下随机特征 MPNN 的表达能力研究

    研究者提出了一个用于图规模一致近似的总体级理论框架,分析了连续随机节点特征对消息传递神经网络(MPNN)表达能力的限制。研究表明,在初始特征具有与图规模无关的 Lipschitz 界的 MPNN 中,连续随机特征可以量化为有限种颜色且期望输出误差任意小,从而证明这类 MPNN 并不具备图规模一致的通用近似能力。

  6. arXiv cs.LG42

    无坐标自动微分

    研究提出一种无基底导数算子,可直接用现有自动微分(AD)原语表示旋转、体积形式和曲率等几何微分操作。该方法将几何信息转化为代数数据,能与 JAX 的批处理、编译及硬件加速无缝组合。实验表明,该算子可在多种流形算子间复用,并成功应用于时空反演问题管线及旋量(rotor)子群优化。

  7. arXiv cs.LG41

    REDaCT:面向大型推理模型的无崩溃遗忘学习框架

    研究人员提出面向大型推理模型的推理期遗忘学习框架 REDaCT,在清除遗忘集信息的同时完全避免了推理崩溃。该框架通过二元泄露检测器定位推理链中的泄露语句,并在推理阶段注入离线学习的纠正性嵌入以引导安全推理。实验表明,REDaCT 显著改善了推理保留能力,并同时实现了完美的答案遗忘与接近完美的 CoT 遗忘。

  8. arXiv cs.LG34

    用于钙钛矿光伏机器学习评估的出处分组协议

    研究人员针对钙钛矿太阳能电池机器学习评估中随机划分导致的信息泄露问题,提出了基于机构出处的严格分组划分协议,以隔离重复器件、出版物和机构。对 13 个模型的评测显示,树集成模型仅在随机划分中占优,而在未见机构和未来发现的划分中排名暴跌,感知成分的神经网络架构则表现更佳。特征重要性分析进一步表明,器件架构和制备方法与吸收层化学成分对最终效率的影响同样显著。

  9. arXiv cs.LG31

    NV-Tesseract-AD:基于课程学习增强条件扩散的多变量时间序列异常检测框架

    研究者提出多变量时间序列异常检测框架 NV-Tesseract-AD,将 Transformer 扩散骨干与掩码比例和扩散时间步的三阶段双轴课程学习相结合。相比无课程基线,该方法使 F1 分数提升约 3.7 倍并将 MSE 降低 56%,在零样本迁移下 NAB 和 NormA 的 F1 分数分别达到 0.984 与 0.948。

  10. arXiv cs.LG34

    LoRA B 矩阵内静态梯度归因在基于损失的遗忘表现上劣于密度匹配随机掩码

    研究发现在限定 LoRA B 矩阵参数池后,均匀随机掩码在 Qwen2.5-3B 的持续学习测试中,基于损失的遗忘表现一致优于静态梯度归因(跨 7 个随机种子)。该优势主要集中在医疗任务(贡献了总体效果的 80%),代码和数学任务趋势相同,法律任务则无可靠差异。此外,在医疗和法律任务上,两者的平均准确率后向迁移差异在统计上与零无显著区别。

  11. arXiv cs.LG33

    神经期望最大化与元模型:从概率推断视角统一 Transformer 架构

    研究者将 Transformer 架构解释为结合最大乘积环路信念传播(LBP)与期望最大化(EM)的混合概率推断过程。自注意力机制实现了在动态马尔可夫随机场(MRF)上的可微 LBP 近似,而跨网络层级的递进则充当隐式 M 步。基于此视角提出的元模型(meta-models)设计范式,在统一框架下涵盖了自注意力、混合专家(MoE)及门控单元等机制。

  12. arXiv cs.LG33

    KITE:用于时间序列事件预测的知识注入时序编码器

    研究人员提出 KITE 编码器,通过协变量与注意力偏置机制将语义先验注入自监督模型,用于预测多元时间序列中的罕见事件。实验表明,在短上下文场景下,周期性时钟先验使池化 h-AUROC 较无先验基线提升 14%(p<0.001),在 0.25 标签比例下守恒残差提升 47%,且有效先验还支持跨域迁移并带来 53% 的增益。

  13. arXiv cs.LG40

    参数高效微调(PEFT)的范畴学图谱:锥、轨道与规范

    研究提出将参数高效微调(PEFT)方法视作权重空间平滑映射,利用范畴学框架系统分析其表达能力与训练动态。作者通过公式提取的 7 个坐标对来自 138 篇论文的 382 种微调方法完成分类,构建了包含 403 条模拟关系与 485 个阻隔的图谱。论文还严格证明了零初始化 LoRA 始于锥顶点、更新秩无法超过自身两倍等多项数学性质。

  14. arXiv cs.LG35

    面向样本级约束生成的 Primal-Dual Flow Matching (PDFM)

    研究者提出 Primal-Dual Flow Matching(PDFM),通过流匹配参数化与原始-对偶优化算法,实现具备用户指定满足概率的样本级约束生成。该方法可直接控制约束满足率,且仅需二值隶属预言机反馈,无需可微距离、投影或凸性等约束集特殊结构假设。在保持分布保真度的同时,PDFM 相比原始 Flow Matching 显著提升了约束满足率,相关代码已开源。

  15. arXiv cs.LG32

    临界质量:分子结构不相交数据集划分随分子库规模扩大产生偏移

    分子机器学习中基于最大公共边子图(MCES)阈值设为 10 的结构不相交划分规则,在公共分子库扩大至 227,690 个分子时会出现图渗流现象。研究通过容许边界和并查集跳过优化,将 $2.6 \times 10^{10}$ 个分子对缩减至 $1.15 \times 10^{7}$ 个整数规划,实现 2,259 倍计算量缩减且无损划分。

  16. arXiv cs.LG34

    基于脑电低电压区间的专家级AI检测方法:新生儿脑病评估的稳健生物标志物

    研究人员提出用仅基于幅度和持续时间定义的低电压区间(LVI)替代传统爆发间隔,并开发出基于 ConvNeXt 的检测模型以量化新生儿脑电不连续性。该模型在测试集上达到 0.996 的 AUC 和 0.926 的马修斯相关系数,一致性超越人类专家间水平。在 444 名新生儿的数据集测试中,LVI 占比与脑电异常分级高度相关(ρ=0.801),且实现 0.872 的癫痫发作预测 AUC。

  17. arXiv cs.LG38

    用于 AI 智能体持续学习的循环框架 ReHarness

    研究人员提出了面向 AI 智能体持续学习的循环框架 ReHarness,在严格的在线流式协议下通过反向修正来补充前向读写。该框架在每个实例结束后利用轨迹反馈反向修正检索到的反思,并在 3 个持续学习基准测试和 3 种语言模型主干上均超越了纯上下文基线、记忆与反思方法及提示词优化方案。分析显示它能修正分布偏移下过度泛化或过时的经验,同时提升稳定性与可塑性。

  18. arXiv cs.LG26

    面向英国气溶胶监测的数据驱动最优传感器布局

    研究人员提出一种基于 DeepSensor 框架与卷积高斯神经过程的数据驱动传感器布局方法,并应用于英国气溶胶监测。结合惰性评估与缓存的遗传优化将平均计算时间缩减 60%(由 25±7 分钟降至 10±3 分钟),表现与贪心求解器相当。在确定 5 个气溶胶监测站点后,该方法使基于 CAMS 参考场基准的 Joint NLL 改善约 22%。

  19. arXiv cs.LG40

    Kronecker Product Attention:基于结构化分解的高效 KV 缓存压缩

    研究团队提出 Kronecker Product Attention(KPA),将 KV 激活值表示为紧凑矩阵因子的克罗内克积之和,实现最高 10x 的 KV cache 压缩。该方法严格泛化了 TPA,并通过匹配的结构化旋转嵌入消除了类似 MLA 的解耦 RoPE 分支。在相同训练条件下,KPA 在 4 个模型规模和 9 个下游基准上性能达到或超过 MHA、MQA、GQA 与 MLA。

  20. arXiv cs.LG42

    SynAct:面向 LLM Agent 的协同主动反馈学习框架

    研究者提出主动学习框架 SynAct,将专家注意力视为约束并在单步决策层级分配反馈。该框架通过多次 rollout 计算所选动作与最终结果的互信息来对决策排序,在最高价值节点请求专家反馈,并将修正蒸馏为可迁移规则供部署复用。在跨 3 个模型家族的 4 款模型和 4 项 Agent 基准评测中,SynAct 在全部 16 项设置下均提升了留出准确率,平均提升 11.7pp。

  21. arXiv cs.LG26

    用于大学建筑日前电力预测的机器学习与时间序列基础模型评测

    在大学建筑 57 个测试日的日前电力预测评测中,结合天气协变量的预训练基础模型 TimesFM 3.0 取得最低整体误差,较每周季节性基准降低约 43% 平均绝对误差。XGBoost 同样具备竞争力且支持快速本地拟合,而 TimesFM 无需针对具体建筑训练权重。仅凭历史用电的 TimesFM 表现依然稳健,引入协变量可进一步改善节假日预测,LSTM 则耗时更长且未展现优势。

  22. arXiv cs.LG36

    真实感与准确率权衡:从生成建模视角看事件序列预测

    研究人员将多步事件序列预测建模为条件生成任务,并构建了涵盖预测准确率与分布真实感双重指标的基准测试。评测结果表明现有方法无法同时在两项指标上取得最优,揭示了两者间的权衡关系。为此,研究团队提出了 Wasserstein BaryBooster 算法,通过聚合高真实感扩散模型的采样结果构建 SOTA 预测器,证实分布真实感可转化为预测准确率,相关代码已开源。

  23. arXiv cs.LG42

    DiffusionART:高效、稳定且可扩展的扩散模型强化学习方法

    研究人员提出扩散模型强化学习方法 DiffusionART,无需可微奖励模型和 EMA 调优即可实现高效稳定训练,并已开源代码。在 HunyuanVideo-13B 任务中,该方法达到同类方案后期平均奖励水平所需的 GPU 工时比 DiffusionNFT 和 Flow-GRPO-Fast 分别减少 12.02 倍与 11.72 倍,平均训练奖励分别提升 28.8% 和 53.0%。

  24. arXiv cs.LG40

    全晶体管物理学习 Transformer 可通过训练实现上下文学习

    研究提出一种全晶体管物理学习 Transformer,通过构建双回路恢复平衡传播所需的双向信息流,并在仿真中成功训练其完成简单上下文学习任务。该方案利用亚阈值 MOSFET 器件的指数电流特性实现注意力机制,并引入新型浮动电路元件以支持交叉熵损失微调。电路中的电阻采用 Lion 优化器训练,每个参数仅需一个电容即可存储历史梯度估计的局部记忆。

  25. arXiv cs.LG34

    研究提出样本自适应零阶优化算法 SAZO 用于大语言模型后训练

    研究者提出样本自适应零阶优化算法 SAZO,通过在线学习样本重要性并自适应分配查询来加速大语言模型微调收敛。该方法从现有方向差分中提取梯度范数信息,并维护单样本指数移动平均以追踪重要性变化,相比 MeZO 无需额外模型评估且仅增加 $O(N)$ 标量状态。在 4 个模型家族上的实验显示,SAZO 提升了下游性能,并在达到相同训练损失时实现最高 6x 的查询次数收敛加速。

  26. arXiv cs.LG33

    用于 2D 和 3D 拉普拉斯问题的增广全纯神经网络

    研究人员提出用于求解 2D 和 3D 拉普拉斯方程边值问题的增广全纯神经网络,通过结合奇异函数解析角点与边缘的奇异行为。该表征在结构上自然满足调和性而无需内部残差,仅凭边界数据拟合平滑部分,且奇异指数支持可训练。测试显示该模型在所有测试问题中精度最高,在 CdZnTe 辐射探测器任务中精度较次优方法提升约 1.7-2.1 倍。

  27. arXiv cs.LG28

    结果依赖截断与删失条件下的生存分析模型高效学习

    新研究提出在结果依赖截断与右删失下高效学习生存分析模型的方法,证明已知基线风险时 Cox 回归可通过一阶优化高效求解。然而当联合学习基线风险时,负对数似然函数则包含严格的次优局部极小值。在 4 个生存数据集上的实验表明,该方法显著减少了预测偏差并可拓展至神经网络,比标准期望最大化算法实现数个数量级的加速。

  28. arXiv cs.LG40

    CacheScope:面向免训练扩散模型加速的精确计算分配

    研究人员提出免训练扩散模型加速方法 CacheScope,通过在线识别高风险特征复用步骤并回退至完整计算,实现最高 3.57x 加速。该方法无需额外训练、梯度或辅助网络,利用输入位移归一化探针信号来准确评估缓存风险。在 FLUX.1-dev、Wan2.1-T2V-1.3B 与 Open-Sora 1.2 上,其中位数 LPIPS 较最强探针基线降低最高达 70.1%。

  29. arXiv cs.LG29

    基于净智能电表实现表后光伏可视化的部署机制与运行洞察

    研究针对净智能电表反推表后光伏发电的可视化问题,量化了四种部署机制对深度学习分解模型性能的影响。在 48 小时固定上下文长度下,最佳模型的日间 MAE 从已知家庭未来测试期的 0.104 kW 上升至未见家庭的 0.185 kW,部署机制对误差差异的解释度远高于模型架构本身。通过目标域归一化,仅对新区域的 5 户家庭进行微调即可使迁移误差降低 28% 至 36%。

  30. arXiv cs.LG34

    CircuitTree:将神经回路组合为音节转录器

    研究人员提出基于 $\Theta(N\log N)$ 树状组合调度的全新数据结构 CircuitTree,能将任意数量的可解释子网络回路组合成单个模型。该方法将从 HuBERT 剪枝得到的 39 个独立音素回路融合成具备音节分类能力的模型。在分层回路流水线中,该系统共享了 99.5% 的回路组件,并以 64.8% 的准确率转录开音节,仅比完全不共享回路的 66.0% 上限低 1.2 个百分点。

  31. arXiv cs.LG26

    共振序列模型引入输入相关读取相位机制

    研究者为 ResonatorLM 等共振序列模型提出输入相关读取相位机制,仅在读取端引入当前 token 依赖,在保持精确卷积计算的同时仅增加 0.2% 参数。在 WikiText-2 数据集的 6M 参数字符级模型测试中,该方法解决了超出训练长度时的失效问题:在 256 tokens 训练并外推至 1024 tokens 测试时,困惑度从 12.81 降至 3.76。

  32. arXiv cs.LG26

    Kairos:迈向全模态字节级基础模型

    研究人员提出了全模态字节级模型架构 Kairos,它将 LiZAttention2 混合注意力、稀疏 MoE 前馈层与多尺度字节级编解码器相结合,在文本、图像、音频等共享的统一字节空间上进行去噪训练。在 1-15M 参数规模的单句收敛性健全性检查中,测试的两种注意力变体在 3000 步时最小损失接近 10⁻³。该实验验证了架构的可优化性,后续计划通过预训练进一步验证泛化与多模态能力。