跳到正文
原文
arXiv stat.ML· Jaesung R. Park, Uijeong Jang, Yifan Chen·· 18 天前AI 评分35

高斯变分推理中的加速机制及其局限性研究

Acceleration and its Limits in Gaussian Variational Inference

AI 导读

研究探讨了经典动量加速能否将强对数凹、对数平滑目标分布的高斯变分推理(GVI)条件数依赖从 $\kappa$ 优化至 $\sqrt{\kappa}$。在精确高斯期望下,GVI 的凸复合形式可实现经典的 $\sqrt{\kappa}$ 加速收敛率;但在仅有逐点导数时,任何随机算法均需 $\kappa^{1-o(1)}$ 次查询。

来源:arXiv stat.ML · arxiv.org