SHAP-IQ：任意阶 Shapley 交互作用的统一近似方法
机器学习
2023-10-31 v3 人工智能
摘要
在可解释人工智能（XAI）研究中，Shapley 值（SV）主要用于确定任意黑盒模型的特征归因。Shapley 交互指数将 SV 扩展以定义任意阶特征交互。定义一个唯一的 Shapley 交互指数是一个开放的研究问题，迄今为止已提出三种定义，它们因所选公理的不同而有所区别。此外，每种定义都需要特定的近似技术。在此，我们提出 SHAPley 交互量化（SHAP-IQ），一种基于采样的有效近似器，用于计算任意基数交互指数（CII，即满足线性、对称与哑元公理的交互指数）的 Shapley 交互。SHAP-IQ 基于一种新颖的表示形式，与现有方法不同，我们为其近似质量提供了理论保证，并对点估计的方差给出了估计。对于 SV 的特殊情况，我们的方法揭示了 SV 的一种新表示，并对应于无偏 KernelSHAP，且计算大大简化。我们通过解释语言、图像分类和高维合成模型来说明计算效率与有效性。
引用
@article{arxiv.2303.01179,
title = {SHAP-IQ: Unified Approximation of any-order Shapley Interactions},
author = {Fabian Fumagalli and Maximilian Muschalik and Patrick Kolpaczki and Eyke Hüllermeier and Barbara Hammer},
journal= {arXiv preprint arXiv:2303.01179},
year = {2023}
}