高维函数用神经网络逼近的最优复杂度
机器学习
2023-01-31 v1 神经与进化计算
摘要
我们研究了同时使用 ReLU 与 作为激活函数的神经网络的性质，并在先前结果的基础上证明，解析函数与 Sobolev 空间中的函数均可由常深度此类网络以任意精度逼近，展示了在所有非线性逼近器（包括标准 ReLU 网络）中的最优阶逼近速率。随后我们展示了如何在某些情形下利用低局部维度来克服维度灾难，获得对未知低维子空间而言最优的逼近速率。
引用
@article{arxiv.2301.13091,
title = {Optimal Approximation Complexity of High-Dimensional Functions with Neural Networks},
author = {Vincent P. H. Goverse and Jad Hamdan and Jared Tanner},
journal= {arXiv preprint arXiv:2301.13091},
year = {2023}
}
备注
10 pages, 1 figure