高维函数的高效神经网络逼近
数值分析
2021-10-13 v3 数值分析
摘要
在本文中,我们建立了一个框架,用以证明神经网络能在不同高维逼近问题中克服维数灾难。我们的方法基于目录网络的概念,它是标准神经网络的一种推广,其中非线性激活函数只要从预定义的函数目录中选取,就可以逐层变化。因此,目录网络构成了连续函数的一个丰富族。我们证明,在目录上的适当条件下,目录网络可被修正线性单元型网络高效逼近,并给出了达到给定逼近精度所需参数数量的精确估计。作为一般结果的特例,我们得到了若干可被 ReLU 网络无维数灾难地逼近的函数类。
引用
@article{arxiv.1912.04310,
title = {Efficient approximation of high-dimensional functions with neural networks},
author = {Patrick Cheridito and Arnulf Jentzen and Florian Rossmannek},
journal= {arXiv preprint arXiv:1912.04310},
year = {2021}
}