完备或稀疏：神经网络表征可识别性的双重视角

针对神经网络何时能恢复真实潜在变量的可解释性难题，NeurIPS 2026 论文从因果方向提出了生成与判别两种设定下的可识别性理论证明。在生成设定中，非负激活与能量效率约束可促使单个神经元精准编码单一潜在变量；在判别设定中，结合稀疏性与压缩感知结构，稀疏字典学习能实现欠完备非线性 ICA 的可识别性。该理论预测已在合成基准以及视觉模型、大语言模型和猕猴下颞叶皮层的激活数据上完成验证。