有限 VC 维神经网络的利与弊

一项研究从高维几何与统计学习理论出发，剖析了有限 VC 维神经网络在逼近能力与样本学习一致性之间的权衡。结果表明，有限 VC 维虽有助于经验误差的一致收敛，但可能不利于特定应用分布下的函数逼近，且在大数据集下逼近误差与经验误差均呈现近似确定性行为。论文还讨论了通用逼近性质的实际局限，以及含 ReLU 单元的网络深度对精度和一致性的影响。