arXiv stat.ML· Sumit Vashishtha·· 18 天前AI 评分33
基于狄利克雷过程的深度神经网络无维度 PAC-Bayes 泛化界
Dimension-Free PAC-Bayes Generalization for Deep Neural Networks via Dirichlet Processes
AI 导读
研究人员提出通过狄利克雷过程（DP）将先验从参数空间转移至数据分布空间，构建出与网络参数量、宽度和深度完全无关的无维度 PAC-Bayes 泛化界。该方法利用数据处理不等式使参数空间相对熵受限于数据空间 DP 散度，避免了过参数化网络中泛化界失效的问题。
来源：arXiv stat.ML · arxiv.org