凸风险最小化中基于核的回归的一致性与稳健性
统计理论
2009-09-29 v1 统计理论
摘要
我们研究了一大类现代基于核的回归(KBR)方法的统计性质。这些核方法发展于过去十年中,其灵感来源于无限维Hilbert空间中的凸风险最小化。一个主要例子是支持向量回归。我们首先描述了KBR方法的损失函数与响应变量尾部之间的关系。然后,我们建立了KBR的-风险一致性,这为这些方法能够“学习”的论断提供了数学依据。接着,我们考虑此类核方法的稳健性。特别地,我们的结果使我们能够选择损失函数和核,以获得具有有界影响函数且在计算上易于处理的相合KBR方法。此外,我们推导了偏差和敏感度曲线(即影响函数的有限样本版本)的界,并讨论了KBR与经典估计量之间的关系。
引用
@article{arxiv.0709.0626,
title = {Consistency and robustness of kernel-based regression in convex risk minimization},
author = {Andreas Christmann and Ingo Steinwart},
journal= {arXiv preprint arXiv:0709.0626},
year = {2009}
}
评论
Published at http://dx.doi.org/10.3150/07-BEJ5102 in the Bernoulli (http://isi.cbs.nl/bernoulli/) by the International Statistical Institute/Bernoulli Society (http://isi.cbs.nl/BS/bshome.htm)