arXiv stat.ML· Ali Al-Lawati, Elsayed Eshra, Dongwon Lee, Suhang Wang·· 11 天前AI 评分36
用于困惑度感知黑盒攻击的扩散语言模型
Diffusion Language Models for Perplexity-Aware Black-Box Attacks
AI 导读
研究人员提出将连续扩散语言模型（dLLM）直接耦合到连续潜在空间框架中，以替代黑盒 LLM 攻击中的人工随机映射。该方法在保留标准高斯潜在形式与采样或优化流程的同时，显著提升了对抗提示词的自然度。实验显示，字符级困惑度在 RareTrap 采样中从 10^3–10^7 降至 3–5，在 ThinkTrap 优化中从 20–28 降至 4.3–5.4，且两种映射下的模型风险评估可相差一个数量级。
来源：arXiv stat.ML · arxiv.org