欠完备线性自编码器中的尺度对称性破缺

有限步长随机梯度下降（SGD）会打破欠完备线性自编码器的尺度对称性，并在 PCA 解流形上促使解码器权重发生定向增大的尺度漂移。该漂移具备可解析的动力学描述且受限于有限步长稳定性边界，导致最终解在损失 Hessian 最大特征值上比平衡基线更陡峭。这阐明了损失几何如何将残差梯度噪声转化为沿功能等价解流形的定向运动。