用于根因分析的非对称 Shapley 值的理论评估
机器学习
2023-10-17 v1 统计方法学
摘要
本工作中，我们考察非对称 Shapley 值（ASV），其为流行的 SHAP 加性局部解释方法的一个变体。ASV 提出了一种结合变量间已知因果关系以改进模型解释的途径，并被视为检验模型预测中不公平歧视的一种方式。先前文献未探索的是，放宽 Shapley 值中的对称性可能对模型解释产生反直觉后果。为更好理解该方法，我们首先展示局部贡献如何对应于方差缩减的全局贡献。利用方差，我们展示了多个 ASV 给出反直觉归因、可谓为根因分析产生错误结果的案例。其次，我们确定广义加性模型（GAM）为一受限类，对此类 ASV 展现出理想性质。我们通过证明关于该方法的多个理论结果来支持我们的论点。最后，我们在多个真实世界数据集上展示了非对称归因的使用，利用梯度提升与深度学习模型比较了有与无受限模型族的结果。
引用
@article{arxiv.2310.09961,
title = {Theoretical Evaluation of Asymmetric Shapley Values for Root-Cause Analysis},
author = {Domokos M. Kelen and Mihály Petreczky and Péter Kersch and András A. Benczúr},
journal= {arXiv preprint arXiv:2310.09961},
year = {2023}
}
备注
10 pages, 6 figures, to be published in IEEE ICDM 2023