arXiv stat.ML· Na\"il B. Khelifa, Richard E. Turner, Ramji Venkataramanan·· 2 小时前AI 评分33
扩散模型只观测梯度：分数匹配误差的几何视角
Diffusion Models Observe Only Gradients: A Geometric Perspective on Score Matching Errors
AI 导读
分数扩散模型中只有梯度的误差分量影响采样动力学，模型即使承受任意大的 $L^2$ 分数误差也能完美匹配目标分布。研究推导出仅依赖梯度误差且更紧致的 KL 散度上界，并证明 $L^2$ 误差无法对分布偏差提供有效下界。此外，作者基于对偶 Sobolev 恒等式提出梯度分量估计器，其实际与样本质量的相关性显著优于完整 $L^2$ 误差。
来源：arXiv stat.ML · arxiv.org