浅层神经网络的逼近率：Barron 空间、激活函数与最优性分析
机器学习
2025-10-22 v1
摘要
本文考察具有指数函数幂次型激活函数的浅层神经网络的逼近特性，聚焦于其在 Barron 函数空间中对维数与被逼近函数光滑性的依赖性。我们考察了 ReLU 激活函数的逼近率，证明在 -有界系数或光滑性条件不足时，无法实现最优逼近率。我们还在 Barron 空间和 Sobolev 空间中建立了各种范数下的最优逼近率，确认了维数诅咒现象。我们的结果阐明了浅层神经网络逼近能力的限制，为激活函数和网络结构的选择提供了洞见。
引用
@article{arxiv.2510.18388,
title = {Approximation Rates of Shallow Neural Networks: Barron Spaces, Activation Functions and Optimality Analysis},
author = {Jian Lu and Xiaohuang Huang},
journal= {arXiv preprint arXiv:2510.18388},
year = {2025}
}