个体 Shapley 值解释的精确度

Shapley 值作为解释复杂机器学习（ML）模型预测的框架，在可解释人工智能（XAI）中被广泛使用。在本工作中，我们关注拟合于表格数据的预测模型的条件 Shapley 值，并每次解释单个观测 $\boldsymbol{x}^{*}$ 的预测 $f(\boldsymbol{x}^{*})$。在 XAI 文献中，已经提出了许多 Shapley 值估计方法并在平均基础上进行了实证比较。然而，对 Shapley 值解释在个体基础上的精确度分析关注较少。我们扩展了 Olsen et al. (2023) 的工作，展示并讨论了对于所有使用的估计方法，位于训练数据分布外部区域的观测，其解释的精确度系统性地较低。从统计角度来看这是预料之中的，但据我们所知，这在 Shapley 值文献中尚未得到系统性探讨。这对于 Shapley 值从业者来说是至关重要的知识，他们在应用这些观测对应的 Shapley 值解释时应更加谨慎。