一种评估特征归因方法的双视角方法

特征归因方法试图通过识别相关特征来解释神经网络预测。然而，建立一个评估特征归因的连贯框架仍然是一项挑战。我们可以通过若干视角来评估归因。一个主要视角是观察扰动归因特征对模型行为的影响（即忠实性）。尽管提供了有用的见解，现有的忠实性评估存在本文所揭示的缺陷。在这项工作中，我们在忠实性范式内提出两个揭示直观属性的新视角：健全性与完备性。健全性评估归因特征在多大程度上是真正的预测特征，而完备性考察所得归因在多大程度上揭示了所有预测特征。这两个视角基于坚实的数学基础，并提供可通过高效算法计算的定量指标。我们将这些指标应用于主流归因方法，提供了一种分析和比较特征归因方法的新视角。