关于过参数化深度神经网络回归估计通过梯度下降学习的收敛速率
统计理论
2025-04-07 v1 统计理论
摘要
考虑随机设计下的非参数回归。作为误差准则，采用相对于设计测度的 误差。定义一种使用 logistic 激活函数的过参数化深度神经网络回归估计，其中所有权重均由梯度下降学习。证明在回归函数为 --光滑的情况下，该估计实现 nearly 最优的收敛速率。
关键词
引用
@article{arxiv.2504.03405,
title = {On the rate of convergence of an over-parametrized deep neural network regression estimate learned by gradient descent},
author = {Michael Kohler},
journal= {arXiv preprint arXiv:2504.03405},
year = {2025}
}