arXiv cs.LG· Yuxing Peng, Zhiqing Tang, Weijia Jia·· 6 天前AI 评分35
重尾噪声下裁剪 SGD 末次迭代在未知时间范围内的代价
The Cost of an Unknown Horizon for the Last Iterate of Clipped SGD under Heavy-Tailed Noise
AI 导读
研究确定了光滑凸目标与重尾噪声下裁剪 SGD 末次迭代的最优时间一致收敛速率为 $\tilde O(t^{-\beta_p})$，其中指数 $\beta_p=2(p-1)/(3p-1)$。
来源：arXiv cs.LG · arxiv.org