中文

高维逼近中深度 ReLU 神经网络的计算复杂度

数值分析 2021-03-02 v1 数值分析

摘要

本文旨在研究深度 ReLU 神经网络在单位立方体 Id:=[0,1]d\mathbb{I}^d:=[0,1]^d 上混合光滑性 Hölder-Nikol'skii 空间 Hα(Id)H_\infty^\alpha(\mathbb{I}^d) 中逼近函数的计算复杂度。在此背景下,对任意函数 fHα(Id)f\in H_\infty^\alpha(\mathbb{I}^d),我们显式构造非自适应与自适应的深度 ReLU 神经网络,其输出以给定精度 ε\varepsilon 逼近 ff,并证明该逼近的计算复杂度(由该深度 ReLU 神经网络的大小与深度刻画)关于 ddε\varepsilon 的维数相关界。我们的结果展示了深度 ReLU 神经网络自适应逼近方法相对于非自适应方法的优势。

关键词

引用

@article{arxiv.2103.00815,
  title  = {Computation complexity of deep ReLU neural networks in high-dimensional approximation},
  author = {Dinh Dũng and Van Kien Nguyen and Mai Xuan Thao},
  journal= {arXiv preprint arXiv:2103.00815},
  year   = {2021}
}

备注

30 pages. arXiv admin note: text overlap with arXiv:2007.08729