arXiv cs.LG· Joshua Maccoby, Wendy Hui Wang·· 22 天前AI 评分41
REDaCT：面向大型推理模型的无崩溃遗忘学习框架
REDaCT: Collapse-Free Unlearning in Large Reasoning Models
AI 导读
研究人员提出面向大型推理模型的推理期遗忘学习框架 REDaCT，在清除遗忘集信息的同时完全避免了推理崩溃。该框架通过二元泄露检测器定位推理链中的泄露语句，并在推理阶段注入离线学习的纠正性嵌入以引导安全推理。实验表明，REDaCT 显著改善了推理保留能力，并同时实现了完美的答案遗忘与接近完美的 CoT 遗忘。
来源：arXiv cs.LG · arxiv.org