基于 Banzhaf 权力指数的特征重要性评分与无损特征剪枝
机器学习
2017-12-05 v2 机器学习
摘要
理解机器学习中特征的影响对于解释模型及选择最佳分类特征至关重要。本文中,我们提出运用联盟博弈论的原理来推理特征的重要性。具体地,我们提出使用 Banzhaf 权力指数作为特征对分类器输出影响程度的度量。我们表明,Banzhaf 权力指数为零的特征可被无损剪枝,且不损害分类器精度。计算权力指数无需访问数据样本。但若样本可用,则可凭经验估计这些指数。我们在真实数据上为神经网络分类器计算了 Banzhaf 权力指数,并将结果与基于梯度的特征显著性以及带 正则化的逻辑回归模型系数进行了比较。
引用
@article{arxiv.1711.04992,
title = {Feature importance scores and lossless feature pruning using Banzhaf power indices},
author = {Bogdan Kulynych and Carmela Troncoso},
journal= {arXiv preprint arXiv:1711.04992},
year = {2017}
}
备注
Presented at NIPS 2017 Symposium on Interpretable Machine Learning