稀疏自编码器中的表征再分配研究

研究人员提出了再分配敏感度评分（RSS），用于识别稀疏自编码器（SAE）中跨提示词变换持续同向出现的大幅特征响应。在涵盖8个大语言模型的27个预训练SAE评估中，该测试展现出可复现的表征再分配轮廓。在两个冻结的安全读出实验中，结合中位数仅20和19个特征的RSS支持集侵蚀，分别取得了0.935和0.958的复发故障AUROC。