决策树集成局部与模型真实解释的确切Shapley值
机器学习
2021-12-21 v1
摘要
使用Shapley值的加性特征解释已因能透明展示各特征对机器学习模型单个预测的相对重要性而流行。尽管Shapley值在合作博弈论中提供了唯一的加性特征归因，但即便针对单一机器学习模型可生成的Shapley值也远非唯一，理论与实现上的决策会影响所得归因。此处，我们考虑将Shapley值应用于解释决策树集成，并提出了一种可应用于随机森林与提升决策树的基于Shapley值的特征归因新方法。该新方法提供的归因准确反映单个实例模型预测算法的细节，同时在计算上与最广泛使用的现有方法之一具有竞争力。我们解释了标准方法与新方法间的理论差异，并使用合成与真实数据比较了它们的性能。
引用
@article{arxiv.2112.10592,
title = {Exact Shapley Values for Local and Model-True Explanations of Decision Tree Ensembles},
author = {Thomas W. Campbell and Heinrich Roder and Robert W. Georgantas and Joanna Roder},
journal= {arXiv preprint arXiv:2112.10592},
year = {2021}
}
备注
23 pages, 7 figures