arXiv cs.LG· Yiping Ji, James Martens, Simon Lucey·· 27 天前AI 评分34
扩散模型是否该去除残差连接?DDT-RFE 架构研究
Should We Skip Diffusion?
AI 导读
研究人员提出 DDT-RFE 架构,通过移除解耦扩散 Transformer(DDT)编码器块内的残差连接,促使模型学习更高级别的抽象特征表征。该架构将输入 patch embedding 与多深度编码器特征融合供解码器使用,在减少编码器块的同时全面提升多项视觉理解任务性能,并在 ImageNet 图像生成中获得更低的 FID。
来源:arXiv cs.LG · arxiv.org