神经网络的表示能力:打破维度灾难
机器学习
2021-01-12 v3 数值分析
数值分析
摘要
本文中,我们分析了神经网络逼近具有有界二阶混合导数的多元函数(即Korobov函数)所需的神经元数量和训练参数数量。我们证明了浅层与深层神经网络在这些量上的上界,打破了维度灾难。我们的界对包括ReLU在内的通用激活函数均成立。我们进一步证明这些界几乎匹配任意连续函数逼近器逼近Korobov函数所需的最小参数数量,表明神经网络是近最优的函数逼近器。
引用
@article{arxiv.2012.05451,
title = {The Representation Power of Neural Networks: Breaking the Curse of Dimensionality},
author = {Moise Blanchard and M. Amine Bennouna},
journal= {arXiv preprint arXiv:2012.05451},
year = {2021}
}
备注
24 pages, 7 figures