基于学习特征几何的非线性最小二乘泛化能力研究

研究者基于平均算法稳定性分析了岭正则化非线性最小二乘模型的泛化能力，推导出局部极小值下依赖于训练参数梯度几何特征的误差界。该误差界通过经验雅可比 Gram 矩阵与残差曲率项衡量有效维度，使泛化保证取决于模型学到的几何特征而非参数量。在单隐层 ReLU 网络及基准数据集上的实验验证了该理论界与实际泛化间隙的一致性。