arXiv cs.LG· Ali Ebrahimpour-Boroojeny, Xiaocong Yang, Samuel Schapiro, Zahra Borhani, Francisco R. Ortega, Yujia Zheng, ChengXiang Zhai·· 18 天前AI 评分35
通过免训练权重编辑抵抗有害指令
Resisting Harmful Instructions through Training-Free Weight Editing
AI 导读
研究提出一种免训练权重编辑方法，仅需在少量提示词对上执行前向传播，即可直接修改模型权重以降低对有害指令的遵从度。在 5 个指令微调模型上的测试显示，该方法在两个蓄意说谎基准上使平均诚实回答率较最强替代方案分别提升 6.2 和 4.6 个百分点；针对性别偏见指令，它将平均偏见回答率从 57.9% 降至 24.3%，结合公平提示词可进一步降至 11.9%。
来源：arXiv cs.LG · arxiv.org