SHAP-XRT：Shapley 值与条件独立性检验的结合
机器学习
2023-12-29 v5
摘要
人工神经网络的复杂性引发了人们对其在真实场景中可靠性、可信度和公平性的担忧。Shapley 值——一种来自博弈论的解决方案概念——是机器学习模型最流行的解释方法之一。更传统地，从统计学的角度来看，特征重要性是根据条件独立性来定义的。迄今为止，这两种可解释性和特征重要性的方法被认为是分离且不同的。在这项工作中，我们表明基于 Shapley 的解释方法和条件独立性检验密切相关。我们引入了 SHAPley 解释随机化检验（SHAP-XRT），这是一种受条件随机化检验（CRT）启发的检验过程，用于特定意义的局部（即，在样本上）条件独立性。借此，我们证明对于二分类问题，Shapley 值中的边际贡献为其各自检验的期望 值提供了下界和上界。此外，我们表明 Shapley 值本身为全局（即，整体）零假设的期望 值提供了上界。因此，我们从新颖的视角增进了对基于 Shapley 的解释方法的理解，并刻画了人们可以通过 Shapley 值对特征重要性做出统计有效断言的条件。
引用
@article{arxiv.2207.07038,
title = {SHAP-XRT: The Shapley Value Meets Conditional Independence Testing},
author = {Jacopo Teneggi and Beepul Bharti and Yaniv Romano and Jeremias Sulam},
journal= {arXiv preprint arXiv:2207.07038},
year = {2023}
}