持续学习中早期学习塑造后续表征变化方向

持续学习中神经网络的早期表征漂移会形成名为 scaffold 的低维子空间，并在后续任务中被持续复用。在 4 个预训练视觉编码器和 2 个数据集上，后续表征变化与优化器更新均优先沿用自身历史诱导的 scaffold。限制该 scaffold 内的变动会显著减缓新任务的学习速度，证实早期经验会在模型适应未来任务时留下持久的几何印记。