分类边界属于 Barron 类的分类器的神经网络逼近与估计
泛函分析
2022-03-11 v2 机器学习
摘要
我们证明了使用 ReLU 神经网络对某些二分类函数进行逼近与估计的误差界。我们的估计界为使用适当规模网络（规模取决于可用训练样本数）的经验风险最小化提供了先验性能保证。所得逼近与估计速率与输入维度无关，表明在此设定下可克服维数灾难；事实上，输入维度仅以多项式因子的形式出现。关于目标分类函数的正则性，我们假设不同类别之间的界面在局部为 Barron 型。我们通过研究文献中提出的各种 Barron 型空间之间的关系来补充我们的结果。这些空间彼此之间的差异远比现有文献所暗示的要大得多。
引用
@article{arxiv.2011.09363,
title = {Neural network approximation and estimation of classifiers with classification boundary in a Barron class},
author = {Andrei Caragea and Philipp Petersen and Felix Voigtlaender},
journal= {arXiv preprint arXiv:2011.09363},
year = {2022}
}