arXiv cs.LG· Elad David, Max Fomin·· 29 天前AI 评分37
Prompted to Discriminate：提升恶意输入探针在真实场景中的泛化能力
Prompted to Discriminate: Generalizing Malicious-Input Probes in the Wild
AI 导读
在用户输入后添加简短分类后缀可显著强化激活探针，在 13 个安全基准及 Llama-3.1-8B、Qwen3.5-9B、Gemma-4-12B 上将分布外检测最高提升约 4 个 AUC 点。该增益主要源于分类格式本身而非具体标准，采用无内容标签同样有效，且能扩展至 attention、multi-max 和 MLP 等生产级多位置池化探针。
来源：arXiv cs.LG · arxiv.org