arXiv cs.LG· Parv Kapoor, Teresa Fortes, Claudia Mamede, Rui Abreu, Jonathan Aldrich, Eunsuk Kang·· 15 天前AI 评分38
拒绝不等于鲁棒：自回归大语言模型中有害可达性的度量研究
Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
AI 导读
研究人员提出有界延续分析（BCA），通过将自回归生成建模为 token 前缀上的随机过程，计算模型在有限步内到达有害延续的概率。BCA 构建有界延续树并利用精确概率模型检验估计有害可达性，量化安全拒绝表象下潜藏的有害生成路径。在 4 款指令微调大语言模型和 100 个 JailbreakBench 行为上的测试表明，BCA 能有效补充攻击成功率（ASR）并指导红队测试。
来源：arXiv cs.LG · arxiv.org