两层神经网络的种群风险先验估计
机器学习
2020-02-24 v3 机器学习
统计理论
统计理论
摘要
针对两层神经网络，建立了种群风险的新估计。这些估计在误差率随蒙特卡洛误差率以相同方式缩放的意义上近乎最优。当网络规模远大于数据集规模时，它们在过参数化 regime 中同样有效。这些新估计在性质上是先验的，因为边界仅依赖于待拟合底层函数的一些范数，而不依赖于模型中的参数，这与大多数本质上为后验的现有结果形成对比。利用这些先验估计，我们为理解为何两层神经网络优于相关核方法提供了一种视角。
引用
@article{arxiv.1810.06397,
title = {A Priori Estimates of the Population Risk for Two-layer Neural Networks},
author = {Weinan E and Chao Ma and Lei Wu},
journal= {arXiv preprint arXiv:1810.06397},
year = {2020}
}
备注
Published version