跳到正文
原文
arXiv cs.LG· Yiping Ji, James Martens, Simon Lucey·· 27 天前AI 评分34

扩散模型是否该去除残差连接?DDT-RFE 架构研究

Should We Skip Diffusion?

AI 导读

研究人员提出 DDT-RFE 架构,通过移除解耦扩散 Transformer(DDT)编码器块内的残差连接,促使模型学习更高级别的抽象特征表征。该架构将输入 patch embedding 与多深度编码器特征融合供解码器使用,在减少编码器块的同时全面提升多项视觉理解任务性能,并在 ImageNet 图像生成中获得更低的 FID。

来源:arXiv cs.LG · arxiv.org