跳到正文
原文
arXiv stat.ML· Qingsen Ma, Dianyun Wang, Jiahong Liu, Irwin King·· 11 天前AI 评分34

持续 SFT 中受限更新为何仍会遗忘:基于函数路径的分析

Why Constrained Updates Still Forget: A Functional-Path Analysis of Continual SFT

AI 导读

研究提出函数路径分析方法,将持续 SFT 中旧损失变化分解为受控方向、梯度陈旧度、探针失配与有限步效应,解释了受限更新为何仍会导致遗忘。QLoRA 干预实验表明,约束放置在 Adam 优化器前后显著影响保留效果,且最终分数掩盖了训练中的损失暴露。在序列任务中,监督回放比产生任务权衡的子空间正则化能更一致地保护历史任务。

来源:arXiv stat.ML · arxiv.org