arXiv cs.LG· Xiaohua Zhan, Kazuki Egashira, Robin Staab, Mark Vero, Martin Vechev·· 6 天前AI 评分42
All-in-One:针对 LLM 转换的可组合攻击
All-in-One: A Composable Attack on LLM Transformations
AI 导读
All-in-One 攻击框架可同时针对量化、剪枝和模型合并等多种 LLM 部署转换,当用户应用其中任意一种转换时即可触发恶意行为。该方法将各类转换近似为模型权重扰动,在训练迭代中联合优化原始模型的良性损失与模拟转换模型的恶意损失。实验表明,该攻击在多种攻击场景、模型族和部署转换中均实现了高成功率。
来源:arXiv cs.LG · arxiv.org