arXiv stat.ML· Fabrizio Boncoraglio, Lenka Zdeborov\'a·· 7 天前AI 评分36
标签噪声下早停何时有益？核梯度流的相图分析
When is early stopping beneficial under label noise? A phase diagram for kernel gradient flow
AI 导读
新研究通过核梯度流推导高维学习曲线与相图，表明即便存在大量不可约标签噪声，模型插值表现仍可优于早停。CIFAR10 实验显示，浅层模型后期测试误差会恶化，但更大更深的卷积网络在拟合全部随机标签后早停需求基本消失。理论分析表明，学习共享关系的线性核与拟合噪声的高阶核之间的平衡，决定了早停是否必要及插值能否达到最优泛化。
来源：arXiv stat.ML · arxiv.org