arXiv stat.ML· Manuel H\"ulskamp, Julius Kobialka, Emanuel Sommer, Thomas Nagler, David R\"ugamer·· 22 天前AI 评分35
先验数据拟合网络（PFN）摊销贝叶斯推理的效果如何？
How Well Do Prior-Data Fitted Networks Amortize Bayesian Inference?
AI 导读
研究人员通过经验风险最小化视角，评估了先验数据拟合网络（PFN）对贝叶斯后验预测分布（PPD）的逼近质量。结果显示 PFN 总体上能很好地还原目标 PPD，但在预训练先验的罕见场景下仍存在摊销误差且扩大模型规模也难以消除，导致独立预训练的 PFN 间产生分歧。采用多种贝叶斯模型平均方法可有效减少该不确定性，并改善包括完整尺寸 TabICLv2 在内的模型预测表现。
来源：arXiv stat.ML · arxiv.org