异方差性对回归树的影响
机器学习
2016-06-17 v1
摘要
回归树作为通用的预测工具以及众多现代统计学习集成方法的基础，正变得越来越受欢迎。其受欢迎的部分原因在于它能够在无需为均值模型指定结构的情况下创建回归预测。然而，该方法隐含地假设在整个解释变量空间中方差是齐性的。目前尚不清楚该算法在遇到异方差数据时表现如何。在本研究中，我们在单变量设定下，采用一个非常简单的异方差阶跃函数模型，评估了最流行的回归树算法的性能。我们通过模拟表明，分割点的位置以及由此产生的准确预测均值的能力，都受到了方差变化的不利影响。我们将剪枝算法确定为主要关注点，尽管分割算法所受影响在某些应用中可能也具有重要意义。
引用
@article{arxiv.1606.05273,
title = {The Effect of Heteroscedasticity on Regression Trees},
author = {Will Ruth and Thomas Loughin},
journal= {arXiv preprint arXiv:1606.05273},
year = {2016}
}