对 Shapley 值用于可解释人工智能的反驳——补充证据
人工智能
2023-10-03 v1 机器学习
摘要
近期工作表明了 Shapley 值用于可解释人工智能（XAI）的不适用性。尽管反驳一个理论只需一个反例，但对早期工作可能的批评是其仅关注布尔分类器。为应对此类可能的批评，本文展示了 Shapley 值对于特征非布尔的分类器族以及可选取多类的分类器族同样不适用。此外，本文表明在任何极小 距离对抗样本中发生改变的特征不包含无关特征，从而就 Shapley 值用于 XAI 的不适用性提供了进一步的论证。
引用
@article{arxiv.2310.00416,
title = {Refutation of Shapley Values for XAI -- Additional Evidence},
author = {Xuanxiang Huang and Joao Marques-Silva},
journal= {arXiv preprint arXiv:2310.00416},
year = {2023}
}
备注
arXiv admin note: text overlap with arXiv:2307.07514