论 SHAP 解释的可计算性

SHAP 解释是一种流行的用于可解释 AI 的特征归因机制。它们使用博弈论概念来度量单个特征对机器学习模型预测的影响。尽管近期来自学术界和工业界的关注颇多，但尚不清楚常见机器学习模型的 SHAP 解释能否被高效计算。在本文中，我们在三种重要设定下确立了计算 SHAP 解释的复杂度。首先，我们考虑完全因子化数据分布，并表明计算 SHAP 解释的复杂度与计算模型期望值的复杂度相同。这种完全因子化设定常被用于简化 SHAP 计算，然而我们的结果表明，对于逻辑回归等常用模型，该计算可能是难解的。超越完全因子化分布，我们表明即便在非常简单的设定下——在朴素贝叶斯分布上计算平凡分类器的 SHAP 解释——计算 SHAP 解释已是难解的。最后，我们表明即便在经验分布上计算 SHAP 也是 #P-hard 的。