arXiv cs.AI· Sungguk Cha, Mintae Kim, Youngsub Han, Byoung-Ki Jeon, Sangyeob Lee·· 11 小时前AI 评分28
一致性不等于理解:神经场权重读取器的轨道审计
Consistency Is Not Understanding: Orbit Audits for Neural Field Weight Readers
AI 导读
该研究提出针对神经场权重读取器的轨道审计评估协议,通过保持函数不变的隐层神经元置换与正 ReLU 重缩放,审计其能否分离功能信息与参数坐标。基于 480 个形状场、1000 个 MNIST 场及 4 个小型冻结语言模型等测试发现,规范化虽能使等价提示词一致,但既无法确立识别能力,也不能保证生成一致响应。
来源:arXiv cs.AI · arxiv.org