谱 Barron 函数在深层神经网络中的锐利均匀逼近

本工作探讨了位于谱 Barron 空间 $\mathscr{B}^s$（其中 $s$ 为平滑性指数）中的函数在神经网络中的逼近能力。我们证明对于 $\mathscr{B}^{1/2}$ 中的函数，单个隐藏层的浅神经网络（拥有 $N$ 个单元）可实现 $L^p$ 逼近率为 $\mathcal{O}(N^{-1/2})$。该率也适用于均匀逼近，最多仅相差一个对数因子。我们的结果显著降低了平滑性要求，现有理论要求函数属于 $\mathscr{B}^1$ 才能达到相同的逼近率。此外，我们表明增加网络深度可显著提高具有小平滑性函数的逼近阶数。具体而言，对于拥有 $L$ 个隐藏层的网络，$0 < sL \le 1/2$ 的 $\mathscr{B}^s$ 中的函数可实现 $\mathcal{O}(N^{-sL})$ 的逼近率。我们估计的速率和前置因子均为维度无关的。我们也确认了结果的尖锐性，下界与上界几乎一致，最多仅相差一个对数因子。