神经网络筛估计量的渐近性质
统计理论
2019-09-18 v2 统计理论
摘要
神经网络是当今机器学习和人工智能中最常用的算法之一。由于通用逼近定理（Hornik 等（1989）），只要隐藏单元数量足够大，含一个隐藏层的神经网络即可逼近紧支撑上的任意连续函数。从统计角度看，神经网络可归入非线性回归框架。然而，若将其作参数化处理，由于参数的不可辨识性，难以推导其渐近性质。相反，我们在非参数回归框架下考虑估计问题，并利用筛估计的结果建立神经网络估计量的一致性、收敛速率与渐近正态性。我们还通过模拟说明了这些理论的有效性。
引用
@article{arxiv.1906.00875,
title = {Asymptotic Properties of Neural Network Sieve Estimators},
author = {Xiaoxi Shen and Chang Jiang and Lyudmila Sakhanenko and Qing Lu},
journal= {arXiv preprint arXiv:1906.00875},
year = {2019}
}