对数巴隆空间中深层ReLU网络的索伯诺夫近似

普遍逼近定理表明，神经网络可以逼近任何连续函数；然而，参数数量可能随着维空间维数的增大而指数级增长，因此这些结果并未完全解释深度模型在高维数据上的实际成功。巴隆空间理论试图回应：如果目标函数属于巴隆空间，则具有n个参数的双层网络可实现O(n^{-1/2})的逼近误差。然而，经典巴隆空间 $\mathscr{B}^{s+1}$ 仍需更强的正则性，而索伯诺夫空间 $H^s$ 更为宽松；此外，现有的深度敏感结果常常假设 $sL \le 1/2$ 等约束条件。本文引入一种对数加权巴隆空间 $\mathscr{B}^{\log}$，其假设条件严格弱于 $\mathscr{B}^s$（任一 $s>0$）。对于这种新的函数空间，我们首先研究嵌入属性，并通过Rademacher复杂度进行统计分析。随后，我们证明位于 $\mathscr{B}^{\log}$ 中的函数可由具有显式深度依赖性的深层ReLU网络进行近似。我们进一步定义一族 $\mathscr{B}^{s,\log}$，在 $H^1$ 范数下建立逼近界限，并识别在保持这些速率的前提下，网络最大深度规模。我们的结果阐明了深度如何降低正则性要求以实现高效表示，为当代深度架构在经典巴隆设定之外的性能，以及其在今天高维问题中的稳定应用提供了更精确的解释。