arXiv cs.AI· NaHyeon Park, Minhyun Lee, Hyunjung Shim·· 29 天前AI 评分35
CALM：分析文生图生成中全局不安全表征的局限
Keep It CALM: Analyzing the Limits of Global Unsafety in Text-to-Image Generation
AI 导读
研究人员提出无需训练的文生图安全防护机制 CALM，通过局部反事实校正替代传统的全局不安全信号移除。针对全局表征消除在覆盖度与选择性上的失衡难题，CALM 仅对违规 token 表征进行最小化编辑并抑制不安全残差。实验表明，CALM 在显著提升不安全内容抑制效果的同时，有效保留了良性提示词的生成效用。
来源：arXiv cs.AI · arxiv.org