ControlBurn:基于稀疏森林的特征选择
机器学习
2021-07-02 v1 统计方法学
摘要
树集成在相关特征组之间均匀分配特征重要性。相关组的平均特征排名被抑制,这降低了可解释性并使特征选择复杂化。本文提出 ControlBurn,一种特征选择算法,它使用基于加权 LASSO 的特征选择方法从树集成中剪除不必要的特征,正如低强度火减少过度生长的植被。与线性 LASSO 类似,ControlBurn 将一组相关特征的全部特征重要性分配给单个特征。此外,该算法高效,仅需单次训练迭代即可运行,不同于基于迭代包装器的特征选择方法。我们表明,在具有相关特征的数据集上,ControlBurn 的表现显著优于计算成本相当的特征选择方法。
引用
@article{arxiv.2107.00219,
title = {ControlBurn: Feature Selection by Sparse Forests},
author = {Brian Liu and Miaolan Xie and Madeleine Udell},
journal= {arXiv preprint arXiv:2107.00219},
year = {2021}
}
备注
15 pages