SVARM-IQ：通过分层高效逼近任意阶 Shapley 交互
计算机科学与博弈论
2024-03-04 v3
摘要
为了解决单一归因分数通过 Shapley 值（SV）带来的局限性，可解释 AI（XAI）领域近期探索了特征或数据点之间复杂的交互作用。特别是，SV 的扩展方法（如 Shapley 交互指数（SII））被提出作为一种度量，以继续受益于 SV 的公理化基础。然而，与 SV 类似，其精确计算在计算上依然不可行。因此，我们提出了 SVARM-IQ，一种基于采样的方法，用于高效逼近任意阶的基于 Shapley 的交互指数。SVARM-IQ 可应用于包括 SII 在内的广泛交互指数类别，其利用了一种新颖的分层表示。我们提供了关于其逼近质量的非渐近理论保证，并在不同模型类别和应用领域的实际 XAI 场景中，凭经验证明了 SVARM-IQ 实现了 SOTA 的估计结果。
引用
@article{arxiv.2401.13371,
title = {SVARM-IQ: Efficient Approximation of Any-order Shapley Interactions through Stratification},
author = {Patrick Kolpaczki and Maximilian Muschalik and Fabian Fumagalli and Barbara Hammer and Eyke Hüllermeier},
journal= {arXiv preprint arXiv:2401.13371},
year = {2024}
}