异方差最小二乘回归中真实和经验超额风险的最优上下界
统计理论
2015-06-29 v2 统计理论
摘要
我们考虑具有非参数异方差噪声和随机设计的有界回归函数的估计。我们研究了有限维向量空间上最小二乘估计的真实和经验超额风险。我们给出了这些量的非渐近且一阶最优的上下界,允许维度依赖于样本量。这些界表明,当最小二乘估计在一致范数下与回归函数在模型上的投影一致时,真实和经验超额风险等价。然后,我们证明了对于合适的直方图模型和具有局部化基结构的更一般的分段多项式模型,一致范数下的一致性。
引用
@article{arxiv.1304.6691,
title = {Optimal upper and lower bounds for the true and empirical excess risks in heteroscedastic least-squares regression},
author = {Adrien Saumard},
journal= {arXiv preprint arXiv:1304.6691},
year = {2015}
}
备注
58 pages