跳到正文
原文
arXiv cs.LG· Shawn Im, James Oldfield, Adel Bibi, Sharon Li·· 11 天前AI 评分38

通过行为反事实解释模型推理

Interpreting Model Reasoning through Behavioral Counterfactuals

AI 导读

研究人员提出一种基于行为反事实解释模型推理过程的方法,通过训练模块编辑残差流,最小化固定回复在不同提示词下的输出分布 KL 散度以复现反事实行为。在 Gemma-4-E4B-it 与 DeepSeek-R1-0528-Qwen3-8B 上的案例研究显示,外部建议即便未被模型明确提及,也会通过问题表述与填充 token 处的表征显著改变论证框架甚至最终答案。

来源:arXiv cs.LG · arxiv.org