跳到正文
原文
arXiv stat.ML· Stephen Y Zhang, Gabriel Peyr\'e·· 26 天前AI 评分27

两层线性网络训练的全局指数收敛性

Global Exponential Convergence of Two-Layer Linear Network Training

AI 导读

宽两层线性网络在平滑 Polyak-Lojasiewicz 损失与 rich scaling 下被证明具备显式速率的全局指数收敛性,初始协方差为 $\Sigma_0 = \sigma^2 \mathrm{Id}$ 时线性收敛速率至少为 $4\sigma^2\kappa$。

来源:arXiv stat.ML · arxiv.org