跳到正文
热点事件持续更新

研究揭示残差门控重组是扩散模型训练加速机制

1 篇报道1 个报道来源17 小时前更新

先了解这件事

AI 综述

2026年11月2日发表于arXiv的研究指出,Diffusion Transformer的训练加速主要源于AdaLN-Zero残差门控路径的重组,而非仅依赖辅助目标的特征约束。研究团队引入了归一化参与率(nPR)指标,证实更宽的门控通道参与度直接对应更好的生成质量。基于该发现,团队提出了一种无教师模型的径向正则化方法,在ImageNet 256×256(SiT-B/2)测试中实现了优于分散损失(dispersive loss)的FID表现。

AI 根据报道生成 · 16 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv cs.LG
    不落下任何通道:通过残差门理解 Diffusion 训练加速

    新研究发现 Diffusion Transformer 的训练加速主要源于 AdaLN-Zero 残差门控路径的重组,而非仅依赖辅助目标的特征约束。研究团队引入归一化参与率(nPR),证实更宽的门控通道参与度直接对应更好的生成质量。基于此提出的无教师模型径向正则化在 ImageNet 256×256(SiT-B/2)上实现了比 dispersive loss 更优的 FID。

本事件热度走势

当前热度 6·可比范围峰值 10(11月2日 14:00)·近 24 小时可比范围变化 –

02.557.51011月2日14:0011月2日19:0011月3日00:0011月3日05:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。