学会遗忘：面向 LLM 表示空间的分布遗忘

研究人员提出非参数分布遗忘框架 Mamushi，通过概率分类器估计对数密度比来筛选待遗忘样本，以消除大语言模型中的毒性语言或特定域内容。理论证明对总体对数密度比设定阈值可在固定预算下达到最优选择规则，并建立了非渐近迁移保证。在毒性语言与主题移除实验中，Mamushi 实现了更优的移除与保留权衡，减少了达成遗忘目标所需的样本量。