arXiv cs.AI· Tianshi Wang, Jingsong Wang, Fengling Li, Jingjing Li, Xin Li, Lei Zhu·· 18 天前AI 评分34
反事实邻域风险场（CNRF）：面向视觉语言模型的证据驱动选择性安全框架
Counterfactual Neighborhood Risk Fields: Evidence-Grounded Selective Safety for Vision-Language Models
AI 导读
研究人员提出了反事实邻域风险场（CNRF），这是一种面向视觉语言模型（VLM）基于证据的选择性安全框架，通过构建良性与有害反事实对将邻域支持度与风险估计分离，实现选择性干预而非一刀切拒绝。在 3 个 VLM 和 5 种多模态越狱家族的测试中，CNRF 实现了 86.06-89.30% 的宏防御成功率，并在低假阳性区间有效提升了风险排序能力。
来源：arXiv cs.AI · arxiv.org