arXiv cs.AI· Yuqing Huang, Jack Ji, Jithin Pradeep, Sagarika Suresh, Jekaterina Novikova·· 8 天前AI 评分43
$M^3$：将多轮越狱建模为马尔可夫决策过程的多 LLM 自动化红队测试框架
$M^3$: A Multi-LLM System for Multi-Turn Jailbreaking as a Markov Decision Process
AI 导读
自动化红队测试框架 $M^3$ 将多轮越狱建模为有限期马尔可夫决策过程（MDP），由攻击者 LLM 基于状态 LLM 生成的内部状态对目标 LLM 发起攻击。在 2 个基准和 6 个目标模型测试中，$M^3$ 的 ASR@5 较现有方法最高提升 53%，即便采用轻量级攻击者，其 ASR@1 和 ASR@5 也分别较强算力基线提升最高 26% 与 34%。
来源：arXiv cs.AI · arxiv.org