中文

ControlBurn:基于稀疏森林的特征选择

机器学习 2021-07-02 v1 统计方法学

摘要

树集成在相关特征组之间均匀分配特征重要性。相关组的平均特征排名被抑制,这降低了可解释性并使特征选择复杂化。本文提出 ControlBurn,一种特征选择算法,它使用基于加权 LASSO 的特征选择方法从树集成中剪除不必要的特征,正如低强度火减少过度生长的植被。与线性 LASSO 类似,ControlBurn 将一组相关特征的全部特征重要性分配给单个特征。此外,该算法高效,仅需单次训练迭代即可运行,不同于基于迭代包装器的特征选择方法。我们表明,在具有相关特征的数据集上,ControlBurn 的表现显著优于计算成本相当的特征选择方法。

关键词

引用

@article{arxiv.2107.00219,
  title  = {ControlBurn: Feature Selection by Sparse Forests},
  author = {Brian Liu and Miaolan Xie and Madeleine Udell},
  journal= {arXiv preprint arXiv:2107.00219},
  year   = {2021}
}

备注

15 pages