中文

神经网络的表示能力:打破维度灾难

机器学习 2021-01-12 v3 数值分析 数值分析

摘要

本文中,我们分析了神经网络逼近具有有界二阶混合导数的多元函数(即Korobov函数)所需的神经元数量和训练参数数量。我们证明了浅层与深层神经网络在这些量上的上界,打破了维度灾难。我们的界对包括ReLU在内的通用激活函数均成立。我们进一步证明这些界几乎匹配任意连续函数逼近器逼近Korobov函数所需的最小参数数量,表明神经网络是近最优的函数逼近器。

关键词

引用

@article{arxiv.2012.05451,
  title  = {The Representation Power of Neural Networks: Breaking the Curse of Dimensionality},
  author = {Moise Blanchard and M. Amine Bennouna},
  journal= {arXiv preprint arXiv:2012.05451},
  year   = {2021}
}

备注

24 pages, 7 figures