arXiv cs.LG· Isabelle Aguilar, Zayn Andre Zainal, Luis Fernando Herbozo Contreras, Zhaojing Huang, Omid Kavehei·· 2026-09-30AI 评分31
规范损失地形导航:基于轨迹缓解增量学习遗忘的方法
Normative Loss Landscape Navigation: A Trajectory-Based Approach to Mitigating Forgetting in Incremental Learning
AI 导读
针对持续学习中的灾难性遗忘问题,研究团队提出基于轨迹调制的损失地形导航方法 TMLN,将持续学习形式化为曲面损失地形上的最优控制问题。该方法利用对角经验 Fisher 信息矩阵结合网络参数历史轨迹动态调制预条件子,直接在梯度更新中保护关键参数方向,无需附加惩罚项。类别与领域增量基准测试表明,TMLN 显著降低了连续任务之间的损失壁垒。
来源:arXiv cs.LG · arxiv.org