随机设计与异方差噪声下最小二乘回归中超额风险的集中不等式
统计理论
2018-03-12 v2 机器学习
统计理论
摘要
我们证明了关于随机设计与异方差噪声下最小二乘回归中超额风险的一个新的通用集中不等式。模型上不需要特定结构，仅需存在一个控制经验过程局部上确界的合适函数。迄今为止，文献中仅处理了在模型上具有此般通用性的线性对比估计的情形。我们在此通过分离线性化经验过程的行为与由模型函数平方驱动的经验过程，解决了二次对比的情形。
引用
@article{arxiv.1702.05063,
title = {A concentration inequality for the excess risk in least-squares regression with random design and heteroscedastic noise},
author = {Adrien Saumard},
journal= {arXiv preprint arXiv:1702.05063},
year = {2018}
}