Faith-Shap：忠实的Shapley交互指数

Shapley值最初设计用于为合作博弈中的个体参与者分配归因，现已成为可解释机器学习中为黑箱机器学习模型的输入特征提供归因的常用方法。Shapley值的一个关键吸引力在于，它唯一地满足一组非常自然的公理化性质。然而，将Shapley值扩展为对交互而非个体参与者分配归因，即交互指数，并非易事：因为原始Shapley值的那组自然公理，在扩展到交互情境时，不再能指定唯一的交互指数。因此，许多提议引入了额外的、不那么“自然”的公理，同时牺牲了关键的效率公理，以获得唯一的交互指数。在这项工作中，我们没有引入额外的冲突公理，而是采纳了将Shapley值视为伪布尔合作博弈价值函数的最忠实线性近似系数的观点。通过将线性近似扩展为$\ell$阶多项式近似，我们可以定义一般的忠实交互指数族。我们证明，通过额外要求忠实交互指数满足标准个体Shapley公理（虚拟性、对称性、线性和效率）的交互扩展，我们获得了一个唯一的忠实Shapley交互指数，我们将其命名为Faith-Shap，作为Shapley值向交互的自然推广。然后，我们提供了Faith-Shap与先前提出的交互指数的一些说明性对比，并进一步研究了它的一些有趣的代数性质。我们通过一些说明性实验，进一步展示了计算Faith-Shap的计算效率，以及一些额外的定性见解。