过参数化神经网络最小范数解的泛化误差
机器学习
2021-01-29 v2 机器学习
统计理论
统计理论
摘要
我们研究了三种过参数化机器学习模型（包括随机特征模型、双层神经网络模型和残差网络模型）的最小范数解的泛化性质。我们证明，对所有三种模型，只要模型充分过参数化，最小范数解的泛化误差至多相差若干对数项即可与蒙特卡洛速率相比。
引用
@article{arxiv.1912.06987,
title = {The Generalization Error of the Minimum-norm Solutions for Over-parameterized Neural Networks},
author = {Weinan E and Chao Ma and Lei Wu},
journal= {arXiv preprint arXiv:1912.06987},
year = {2021}
}
备注
Published version