高维逼近中深度 ReLU 神经网络的计算复杂度
数值分析
2021-03-02 v1 数值分析
摘要
本文旨在研究深度 ReLU 神经网络在单位立方体 上混合光滑性 Hölder-Nikol'skii 空间 中逼近函数的计算复杂度。在此背景下,对任意函数 ,我们显式构造非自适应与自适应的深度 ReLU 神经网络,其输出以给定精度 逼近 ,并证明该逼近的计算复杂度(由该深度 ReLU 神经网络的大小与深度刻画)关于 和 的维数相关界。我们的结果展示了深度 ReLU 神经网络自适应逼近方法相对于非自适应方法的优势。
引用
@article{arxiv.2103.00815,
title = {Computation complexity of deep ReLU neural networks in high-dimensional approximation},
author = {Dinh Dũng and Van Kien Nguyen and Mai Xuan Thao},
journal= {arXiv preprint arXiv:2103.00815},
year = {2021}
}
备注
30 pages. arXiv admin note: text overlap with arXiv:2007.08729