arXiv stat.ML· Ciar\'an M. Gilligan-Lee, Joseph Egan, Yuchen Zhu, Michael O'Riordan·· 22 天前AI 评分42
微调过程中虚假关联的无监督识别与消除研究
Unsupervised Identification and Removal of Spurious Correlations During Fine-Tuning
AI 导读
研究者提出 GRASP 方法，可通过朴素 LoRA 微调权重无监督识别潜变量，并在微调中消除虚假关联且保留预训练内容。在不安全代码和不良医疗建议任务中，该方法完全消除了前者的突发未对齐现象，并将后者未对齐减少约 5x。在 Reddit 金融数据政治偏见实验中，该方法将政治倾向漂移减少超过一半，并提升了金融任务性能。
来源：arXiv stat.ML · arxiv.org