跳到正文
原文
arXiv stat.ML· Nikita Zozoulenko, Daniel Falkowski, Thomas Cass, Lukas Gonon·· 7 天前AI 评分30

基于弱学习器的仿射不变三次牛顿法

Affine-invariant Cubic Newton with Weak Learners

AI 导读

研究者将仿射不变三次牛顿法(AICN)推广至带弱学习器的凸优化,提出 weak-AICN 并将其更新简化为带显式步长的阻尼弱牛顿步。在半强自协调条件下,该算法实现 $\mathcal{O}(1/\overline{\Theta}_k^4 k^2)$ 的全局收敛速率,显著优于 weak-GRN 的理论界。论文还提出了自适应调节正则化的 weak-AdaAICN,并证明牛顿坐标下降是该优化框架的特例。

来源:arXiv stat.ML · arxiv.org