次优 Shapley 值解释

深度神经网络（DNN）在支持 various 应用方面展现出强大的能力。Shapley 值已成为分析特征重要性、帮助人类理解深度神经模型推理过程的突出工具。计算 Shapley 值函数需要选择一个基线来表示特征的缺失情况。然而，现有的随机基线和条件基线可能对解释产生负面影响。在本文中，我们通过分析不同基线的次优性，识别出存在问题的基线，即特征 $\bm{x}'_i$（可靠影响特征的替换）与其他特征之间的非对称互动在模型输出上具有显著的方向性偏差，并得出结论 $p(y|\bm{x}'_i) = p(y)$ 可能最小化涉及 $\bm{x}'_i$ 的非对称互动。我们进一步将 $\bm{x}'_i$ 对标签空间 $L$ 的无信息性推广，以避免估计 $p(y)$，并设计一种简单的基于不确定性的重新加权机制以加速计算过程。我们在 various NLP 任务上进行实验，定量分析表明所提出的基于不确定性的重新加权机制有效。此外，通过衡量可解释方法生成的解释与人类理解的一致性，我们突出了模型推理与人类理解之间的差异。