中文

一般浅层网络逼近的可处理性

机器学习 2023-12-12 v2 数值分析 数值分析

摘要

在本文中,我们给出了论文《Dimension independent bounds for general shallow networks》(Neural Networks, \textbf{123} (2020), 142-152)中结果的更精细版本。设 X\mathbb{X}Y\mathbb{Y} 为紧度量空间。我们考虑形如 xYG(x,y)dτ(y) x\mapsto\int_{\mathbb{Y}} G( x, y)d\tau( y)xX x\in\mathbb{X})的函数的逼近,使用形如 xk=1nakG(x,yk) x\mapsto \sum_{k=1}^n a_kG( x, y_k)y1,,ynY y_1,\cdots, y_n\in\mathbb{Y}a1,,anRa_1,\cdots, a_n\in\mathbb{R})的 GG-网络。利用覆盖数定义 X\mathbb{X}Y\mathbb{Y} 的维数,我们得到了关于逼近阶依赖于 nn 的维数无关界,其中涉及的常数至多多项式地依赖于维数。应用包括幂修正线性单元网络、带状函数网络、某些径向基函数网络的逼近,以及向高维空间进行函数延拓这一重要问题。

关键词

引用

@article{arxiv.2308.03230,
  title  = {Tractability of approximation by general shallow networks},
  author = {Hrushikesh Mhaskar and Tong Mao},
  journal= {arXiv preprint arXiv:2308.03230},
  year   = {2023}
}