深度卷积神经网络的最优收敛速率：加性脊函数
机器学习
2023-01-23 v2 统计理论
统计理论
摘要
卷积神经网络已在诸多应用中展现出令人印象深刻的性能，尤其是与分类任务相关的应用。然而，对于回归问题，卷积结构的能力尚未被充分理解，仍需进一步研究。本文考虑深度卷积神经网络的均方误差分析。我们证明，对于加性脊函数，后接一层带 ReLU 激活函数的全连接层的卷积神经网络可达到最优极小极大速率（相差一个对数因子）。输入维度仅出现在收敛速率的常数中。本工作展示了卷积神经网络的统计最优性，并可能阐明卷积神经网络为何能对高维输入表现良好。
引用
@article{arxiv.2202.12119,
title = {Optimal Convergence Rates of Deep Convolutional Neural Networks: Additive Ridge Functions},
author = {Zhiying Fang and Guang Cheng},
journal= {arXiv preprint arXiv:2202.12119},
year = {2023}
}