通过传播局部组件的 Shapley 值解释模型
机器学习
2019-11-28 v1 机器学习
摘要
在医疗健康领域，利用复杂模型（例如神经网络、不同模型的集成/堆叠）做出最佳预测会影响患者福祉。为使这些复杂模型可解释，我们提出面向混合模型类型的 DeepSHAP，一种基于 DeepLIFT（一种已有的神经网络解释方法）的 Shapley 值逐层传播框架。我们表明，除能够解释神经网络外，这一新框架自然支持对混合模型堆叠（例如神经网络特征提取器接入树模型）以及损失函数的归因。最后，我们从理论上论证了一种在 Shapley 值框架下针对背景分布获得归因的方法。
引用
@article{arxiv.1911.11888,
title = {Explaining Models by Propagating Shapley Values of Local Components},
author = {Hugh Chen and Scott Lundberg and Su-In Lee},
journal= {arXiv preprint arXiv:1911.11888},
year = {2019}
}
备注
4 pages and references