基于树的方法中特征重要性的无偏度量
机器学习
2020-03-25 v2 机器学习
摘要
我们提出一种修正,以纠正随机森林及其他基于树的方法中基于分裂增益的变量重要性度量的偏差。已证明这些方法偏向于提高具有更多潜在分裂的特征的重要性。我们表明,通过恰当地纳入基于样本外数据所度量的分裂增益,该偏差可得以纠正,从而产生更好的汇总与筛选工具。
引用
@article{arxiv.1903.05179,
title = {Unbiased Measurement of Feature Importance in Tree-Based Methods},
author = {Zhengze Zhou and Giles Hooker},
journal= {arXiv preprint arXiv:1903.05179},
year = {2020}
}
备注
add Section 3.4 to compare with other methods for dealing with similar bias; add more simulation results in Section 5; add link to Github repository for code access