基于随机森林袋外误差的残差方差一致估计
统计理论
2018-12-18 v1 统计理论
摘要
在机器学习领域,回归模型中残差方差的估计问题受到的关注相对较少。然而,该估计在许多实际应用中有首要意义,例如作为构建预测区间的第一步。此处,我们针对随机森林考虑此问题。其中,协变量与响应变量之间的函数关系由后者(响应变量)的加权和建模。不过,依赖结构涉及在树构建过程中构造的权重,使得该模型在数学分析中较为复杂。限于L2一致的随机森林模型,我们给出了基于随机森林的残差方差估计量并证明了其一一致性。
引用
@article{arxiv.1812.06270,
title = {Consistent Estimation of Residual Variance with Random Forest Out-Of-Bag Errors},
author = {Burim Ramosaj and Markus Pauly},
journal= {arXiv preprint arXiv:1812.06270},
year = {2018}
}