arXiv stat.ML· Stephen Y Zhang, Gabriel Peyr\'e·· 26 天前AI 评分27
两层线性网络训练的全局指数收敛性
Global Exponential Convergence of Two-Layer Linear Network Training
AI 导读
宽两层线性网络在平滑 Polyak-Lojasiewicz 损失与 rich scaling 下被证明具备显式速率的全局指数收敛性,初始协方差为 $\Sigma_0 = \sigma^2 \mathrm{Id}$ 时线性收敛速率至少为 $4\sigma^2\kappa$。
来源:arXiv stat.ML · arxiv.org