arXiv cs.AI· Jinghao Pang, Jitai Hao, Qiang Huang, Zhaochun Ren, Jun Yu·· 27 天前AI 评分37
超越拒绝模式：通过安全角色内化实现鲁棒且可泛化的 LLM 安全对齐
Beyond Refusal Patterns: Safe-Role Internalization for Robust and Generalizable LLM Safety Alignment
AI 导读
研究人员提出 SSRFT 框架，将大语言模型安全对齐重构为预定义安全角色的内化，替代传统的显式拒绝模式。该方法基于心理测量问题、越狱提示词与角色描述构建 SRQA 数据集，引导模型内化安全价值观。实验显示，SSRFT 显著增强了对抗 prefilling 攻击和未知越狱的鲁棒性，并在减少过度拒绝的同时保留了模型通用能力。
来源：arXiv cs.AI · arxiv.org