arXiv stat.ML· Kevin Lee·· 6 天前AI 评分31
输入跳跃连接可在不提升生成器性能的情况下重参数化 VAE
An Input Skip Can Reparameterize a VAE Without Improving the Generator
AI 导读
输入跳跃连接(input skip)能在不改变高斯 VAE 样本生成分布的前提下降低重建均方误差(MSE),本质仅对模型进行了重参数化。通过按比例缩放解码器输出和噪声方差,模型可在生成评分不变时将重建 MSE 缩减至 $(1-\alpha)^2$ 倍。实验表明降低重建误差甚至会恶化能量评分(energy score),证明评估生成质量不能仅依赖重建误差。
来源:arXiv stat.ML · arxiv.org