ReLU 神经网络对光滑函数的最优逼近研究

该研究解决了全连接 ReLU 神经网络一致逼近 Hölder 球时与信息论效率极限存在差距的问题，针对任意 $s>0$ 和 $D\ge1$ 闭合了这一差距。宽度为 $O(N)$、深度为 $O(L)$ 且参数大小为 $O(1)$ 的网络可达到 $(N^2L^2\log N)^{-s/D}$ 阶的一致逼近误差，且不限制宽度与深度的关系。