周期高斯再生核正则化方法的统计性质
统计理论
2007-06-13 v1 统计理论
摘要
带高斯再生核的正则化方法在机器学习文献中很流行,并在许多实际应用中取得成功。本文考虑高斯核正则化的周期版本。我们在白噪声模型设定下表明,在非常光滑的函数空间(如无穷阶 Sobolev 空间和解析函数空间)中,所考察的方法在渐近意义下是极小极大的;在有限阶 Sobolev 空间中,该方法是速率最优的,且与极小极大估计量相比,其在常数意义上的效率相当高。周期高斯正则化中的平滑参数可以自适应地选取而不损失渐近效率。本文推导的结果部分解释了高斯再生核在实践中的成功。我们还进行了模拟以研究周期高斯正则化的有限样本性质。
引用
@article{arxiv.math/0410093,
title = {Statistical properties of the method of regularization with periodic Gaussian reproducing kernel},
author = {Yi Lin and Lawrence D. Brown},
journal= {arXiv preprint arXiv:math/0410093},
year = {2007}
}
备注
Published by the Institute of Mathematical Statistics (http://www.imstat.org) in the Annals of Statistics (http://www.imstat.org/aos/) at http://dx.doi.org/10.1214/009053604000000454