卷积神经网络学习的收敛速率研究
机器学习
2025-07-29 v3 统计理论
机器学习
统计理论
摘要
我们研究具有单侧零填充和多通道的卷积神经网络（CNN）的逼近与学习能力。第一个结果证明了在权重满足特定约束条件下 CNN 的一个新逼近界。第二个结果对以 CNN 为特例的前馈神经网络的覆盖数给出了新的分析。该分析仔细考虑了权重的大小，因此在某些情况下能给出比现有文献更紧的界。利用这两个结果，我们能够在许多学习问题中推导出基于 CNN 的估计量的收敛速率。特别地，我们在非参数回归设定下，针对学习光滑函数的最小二乘 CNN 估计量，建立了极小极大最优收敛速率。对于二分类问题，我们推导了使用合页损失和逻辑损失的 CNN 分类器的收敛速率。研究还表明，所获得的分类速率在某些常见设定下是极小极大最优的。
引用
@article{arxiv.2403.16459,
title = {On the rates of convergence for learning with convolutional neural networks},
author = {Yunfei Yang and Han Feng and Ding-Xuan Zhou},
journal= {arXiv preprint arXiv:2403.16459},
year = {2025}
}