深度 ReLU CNN 的逼近性质
机器学习
2022-07-04 v2 机器学习
摘要
本文致力于建立二维空间中深度 ReLU 卷积神经网络（CNN）的 逼近性质。分析基于具有大空间尺寸与多通道的卷积核分解定理。由分解结果、ReLU 激活函数的特性以及特定的通道结构，通过展示深度 ReLU CNN 与单隐层 ReLU 神经网络（NN）的联系，得到了具有经典结构的深度 ReLU CNN 的通用逼近定理。进一步，基于这些网络间的联系，得到了具有 ResNet、pre-act ResNet 与 MgNet 架构的某类神经网络的逼近性质。
引用
@article{arxiv.2109.00190,
title = {Approximation Properties of Deep ReLU CNNs},
author = {Juncai He and Lin Li and Jinchao Xu},
journal= {arXiv preprint arXiv:2109.00190},
year = {2022}
}
备注
30 pages