跳到正文
原文
arXiv cs.AI· Benoit Dherin, Michael Munn, Xavier Gonzalvo, Adrian Goldwaser, Blaz Bratanic, Ananth Balashankar, Andrey Vlasov, Pinzhi Huang, Cecile Loge, Nicole Mitchell, Andre Fernandes, Trilok Acharya, Wendy Kan, Ziyue Wang, Hanna Mazzawi, Felipe Tiengo Ferreira, Mor Geva·· 2026-09-30AI 评分39

安全算子:通过谱优化调节安全指令表达

The Safety Operator: Modulating the Expression of Safety Instructions via Spectral Optimization

AI 导读

研究提出安全算子(Safety Operator),通过谱优化调节 Transformer 模型主特征值,实现对安全指令影响力的连续控制。研究推导出带抑制权重的对比安全损失(Contrastive Safety Loss),用于平衡有害查询强化与无害查询抑制。调整该权重可映射攻击成功率与过度拒绝率的关系,实现安全指令表现的帕累托改进。

来源:arXiv cs.AI · arxiv.org