arXiv cs.LG· Wenxi Dai, Jingyu Hu, Yanting Yang, Mengnan Du·· 16 小时前AI 评分34
从表征到读出：大语言模型成员信号机制分析
From Representation to Readout: Mechanistic Analysis of Membership Signals in Language Models
AI 导读
该研究对大语言模型（LLM）中的训练数据成员信号展开机制分析，提出 DUG 指标以分别量化内部表征与读出暴露的成员信息。实验发现，SFT 下成员特异性效应同时体现在内部表征解码与读出中，RL 下则主要显现在读出端，且被定位至模型中间层。此外，在 RLVR 场景中，模型行为改变可以在基于似然的成员推理信号未增加时出现。
来源：arXiv cs.LG · arxiv.org