MLP 中 Shapley 值的基线：从缺失性到中性值
机器学习
2022-07-05 v3 机器学习
摘要
深度神经网络凭借准确性获得关注，但其可解释性常受批评，因而被贴上黑盒标签。为此，文献中提出了若干解释其预测的方法。在解释方法中，Shapley 值因其坚实的理论基础而受青睐的特征归因方法。然而，使用 Shapley 值分析特征归因需选择代表缺失性概念的基线。基线的任意选择可能负面影响方法的解释力并导致错误解读。本文提出一种依据中性值选择基线的方法：作为决策者选定的参数，该点是其选择由模型预测高于或低于它来决定。因此，所提基线基于依赖模型实际使用的参数设定。该过程不同于其他基线的设定方式，即未考虑模型如何使用。我们在二分类任务背景下以两个数据集（合成数据集与金融领域衍生数据集）实证验证了基线选择。
引用
@article{arxiv.2006.04896,
title = {A Baseline for Shapley Values in MLPs: from Missingness to Neutrality},
author = {Cosimo Izzo and Aldo Lipani and Ramin Okhrati and Francesca Medda},
journal= {arXiv preprint arXiv:2006.04896},
year = {2022}
}