arXiv stat.ML· Trevor Campbell, Jonathan H. Huggins, Kyurae Kim, Charles C. Margossian·· 2 小时前AI 评分35
变分推断默认优化器的大规模实证调优与对比
Large-scale empirical tuning and comparison of default optimizers for variational inference
AI 导读
一项针对黑盒变分推断（BBVI）的大规模实证研究评测了 56 种随机梯度优化算法，覆盖 1092 个贝叶斯推断问题与超 550,000 次优化运行，耗费 15 个核心年计算量。测试问题后验目标维度达 1-10^4、条件数达 1-10^8，结果显示虽无单一算法完全占优，但运行精选的 5 种算法即可可靠逼近最佳性能。该成果为无法进行专家调优的应用场景提供了强基准。
来源：arXiv stat.ML · arxiv.org