卷积神经网络与全连接网络逼近的等价性
泛函分析
2021-01-29 v3 机器学习
摘要
卷积神经网络是应用中使用最广泛的神经网络类型。然而，在数学分析中，主要研究的是全连接网络。本文中，我们建立了这两种网络架构之间的联系。利用该联系，我们表明关于函数 （对任意函数类 ）的全连接神经网络逼近速率的所有上界与下界，可转化为关于函数 的卷积神经网络逼近速率基本相同的界，其中类 由所有平移等变且第一坐标属于 的函数组成。所有给出的结果仅考虑无任何池化操作且使用循环卷积（即不基于零填充）的卷积神经网络。
引用
@article{arxiv.1809.00973,
title = {Equivalence of approximation by convolutional neural networks and fully-connected networks},
author = {Philipp Petersen and Felix Voigtlaender},
journal= {arXiv preprint arXiv:1809.00973},
year = {2021}
}