arXiv cs.AI· Faezeh Dehghan Tarzjani, Mevan Wijewardena, Alexander Romanus, Sampad Mohanty·· 27 天前AI 评分39
从局部证据到安全判决：视觉语言模型的因果追踪
From Local Evidence to Safety Verdicts: Causal Tracing in Vision-Language Models
AI 导读
研究人员提出评估基准 SSU-Bench，通过因果追踪分析视觉语言模型内部联合安全判决的形成机制。实验在 3 个视觉语言模型上表明，针对变动输入位置的状态干预在较早解码器层有效，而针对最终输入 token 的干预则在较晚层生效。此外，对最终 token 状态的线性读出能够预测模型自身的判决结果，且不同模型呈现出相似的变化模式。
来源：arXiv cs.AI · arxiv.org