arXiv stat.ML· Dimitris Oikonomou, Nicolas Loizou·· 12 天前AI 评分33
曲率缩放锐度感知最小化(CS-SAM):突破传统平滑性限制的收敛性研究
Curvature-Scaled Sharpness-Aware Minimization: Convergence Beyond Smoothness
AI 导读
研究者提出了曲率缩放锐度感知最小化(CS-SAM),通过曲率上限同时缩放扰动和下降步长,解决了传统 SAM 及 USAM 在广义平滑条件下梯度失真可能无界并导致震荡或发散的问题。
来源:arXiv stat.ML · arxiv.org