Banzhaf 随机森林
机器学习
2015-07-23 v1 计算机视觉与模式识别
机器学习
摘要
随机森林是一种集成方法，通过组合若干独立树的结果进行预测。然而，随机森林的理论长期落后于其应用。本文提出一种基于合作博弈论的新颖随机森林算法。采用 Banzhaf 权力指数（Banzhaf power index）通过遍历可能的特征联盟来评估每个特征的能力。与之前使用的信息论信息增益率（简单地选择信息量最大的特征）不同，Banzhaf 权力指数可被视为一组特征间依赖关系上每个特征重要性的度量。更重要的是，我们证明了所提算法（命名为 Banzhaf 随机森林（BRF））的一致性。该理论分析朝着缩小分类问题中随机森林理论与实践之间的差距迈进了一步。在多个 UCI 基准数据集上的实验表明，BRF 与最先进的分类器具有竞争力，并且大幅优于先前的一致随机森林。特别地，它比先前的一致随机森林高效得多。
引用
@article{arxiv.1507.06105,
title = {Banzhaf Random Forests},
author = {Jianyuan Sun and Guoqiang Zhong and Junyu Dong and Yajuan Cai},
journal= {arXiv preprint arXiv:1507.06105},
year = {2015}
}
备注
arXiv admin note: text overlap with arXiv:1302.4853 by other authors