从 Shapley 值到广义加性模型及其逆

在可解释机器学习中，局部后验解释算法与固有可解释模型常被视为竞争性方法。本文通过在 Shapley 值与广义加性模型（GAMs）间建立对应关系，对二者进行了部分调和。我们引入 $n$-Shapley 值，一类用至多 $n$ 阶交互项解释单个预测的局部后验解释算法参数族。通过改变参数 $n$，我们得到一组覆盖从 Shapley 值到待解释函数的唯一确定分解整个范围的解释序列。$n$-Shapley 值与该分解的关系提供了基于函数的 Shapley 值刻画，凸显其局限。我们随后证明 $n$-Shapley 值以及 Shapley Taylor 与 Faith-Shap 交互指数可恢复至多 $n$ 阶交互项的 GAMs。这意味着原始 Shapley 值恢复无变量交互的 GAMs。综上，我们的结果精确刻画了可解释机器学习中使用的 Shapley 值，并为 Shapley 值的偏依赖图提供了基于底层函数分解的原则性解释。用于估计不同交互指数的包见 \url{https://github.com/tml-tuebingen/nshap}。