模型解释中的多种 Shapley 值

Shapley 值已成为一种流行的方法，用于将机器学习模型对输入的预测归因于其基本特征。使用 Shapley 值的理由通常引用文献[16]，该文献表明它是满足某些良好性质（公理）的**唯一**方法。然而，在归因问题中，Shapley 值的操作化方式存在多种。这些方式在如何引用模型、训练数据和解释上下文方面有所不同，从而产生截然不同的结果，使得唯一性结果失去意义。此外，我们发现先前提出的方法在理论和实践中都可能产生违反直觉的归因——例如，它们可以为模型甚至未引用的特征分配非零归因。在本文中，我们使用公理化方法来研究用于归因的 Shapley 值的多种操作化方式之间的一些差异，并提出了一种称为基线 Shapley (BShap) 的技术，该技术有恰当的唯一性结果作为支撑。我们还将 BShap 与积分梯度进行了对比，后者是 Shapley 值在连续设定下的另一种扩展。