残差 ExtraTrees 的选择性级联
机器学习
2020-09-30 v1 机器学习
摘要
我们提出一种名为残差 ExtraTrees 选择性级联(SCORE)的新型基于树的集成方法。SCORE 借鉴表示学习,结合带变量选择特征的正则化回归,并利用提升来改进预测并降低泛化误差。我们还开发了变量重要性度量以增强 SCORE 的可解释性。我们的计算机实验表明,SCORE 在预测上相较 ExtraTrees、随机森林、梯度提升机与神经网络具有可比或更优的性能;且所提 SCORE 变量重要性度量与所研究的基准方法相当。最后,SCORE 的预测性能在超参数取值范围内保持稳定,暗示其对超参数设定具有潜在鲁棒性。
引用
@article{arxiv.2009.14138,
title = {Selective Cascade of Residual ExtraTrees},
author = {Qimin Liu and Fang Liu},
journal= {arXiv preprint arXiv:2009.14138},
year = {2020}
}
备注
To appear in SN Computer Science