使用 Shapley 值和条件推断树解释具有混合特征的预测模型
机器学习
2020-07-03 v1 机器学习
摘要
解释复杂的黑箱机器学习模型变得越来越重要。尽管关于这一主题的文献越来越多，但 Shapley 值作为一种解释任何类型机器学习模型预测的可靠方法脱颖而出。最初为预测解释而发展的 Shapley 值方法依赖于所描述特征相互独立的假设。该方法随后被扩展，以解释具有潜在连续分布的依赖特征。在本文中，我们提出了一种方法，通过使用条件推断树对特征的依赖结构进行建模，来解释混合（即连续、离散、有序和分类）依赖特征。我们在各种模拟研究中将我们提出的方法与当前行业标准进行了对比，发现我们的方法通常优于其他方法。最后，我们将我们的方法应用于 2018 年 FICO 可解释机器学习挑战赛中使用的一个真实金融数据集，并展示了我们的解释如何与 FICO 挑战赛识别奖获奖团队的解释进行比较。
引用
@article{arxiv.2007.01027,
title = {Explaining predictive models with mixed features using Shapley values and conditional inference trees},
author = {Annabelle Redelmeier and Martin Jullum and Kjersti Aas},
journal= {arXiv preprint arXiv:2007.01027},
year = {2020}
}