通过传播 Shapley 值解释一系列模型
机器学习
2022-10-12 v2
摘要
局部特征归因方法正越来越多地用于解释复杂的机器学习模型。然而，现有方法存在局限，因为它们计算代价极高，或者无法解释分布式的模型序列——其中每个模型由不同机构拥有。后者尤为重要，因为它常出现在金融领域，而该领域强制要求提供解释。在此，我们提出 DeepSHAP，一种基于与 Shapley 值的联系、可在复杂模型序列中传播局部特征归因的易处理方法。我们在生物、健康和金融数据集上评估 DeepSHAP，表明其提供的解释同样显著，且比现有模型无关归因技术快一个数量级，并展示了其在重要的分布式模型序列场景中的使用。
引用
@article{arxiv.2105.00108,
title = {Explaining a Series of Models by Propagating Shapley Values},
author = {Hugh Chen and Scott M. Lundberg and Su-In Lee},
journal= {arXiv preprint arXiv:2105.00108},
year = {2022}
}