arXiv cs.AI· Zixuan Weng, Haoqi He, Weifei Jin, Yue Huang, Yang Bai·2026-10-12 12:00· 22 天前AI 评分50

研究揭示大语言模型安全通路：注意力层识别危害，MLP层执行拒绝

Attention Sees, MLP Refuses: Tracing the Attention-to-MLP Safety Pathway in LLMs

AI 导读

研究团队揭示了大语言模型的内部安全通路机制，证实注意力更新主要负责识别有害信息，而 MLP 更新则主导拒绝响应的写入。在涵盖 Qwen、Llama 和 Gemma 的 18 对模型评测中，后训练显著增强了深层 MLP 的拒绝写入能力，且在推理模型中拒绝写入集中于回答起始阶段。

来源：arXiv cs.AI · arxiv.org