Shapley值在可解释性中的不充分性
机器学习
2023-02-17 v1 人工智能
摘要
本文提出了一个严谨的论证，说明在可解释人工智能（XAI）中使用Shapley值必然会给出关于特征对预测相对重要性的可证明具误导性的信息。具体而言，本文证明了存在这样的分类器及相应的预测，使得由Shapley值确定的特征相对重要性会错误地将更多重要性分配给可证明与预测无关的特征，而将更少重要性分配给可证明与预测相关的特征。本文还论证，鉴于近期复杂性结果，对于某些受限分类器类，存在计算严格特征归因值的高效算法至少应被视为不太可能。
引用
@article{arxiv.2302.08160,
title = {The Inadequacy of Shapley Values for Explainability},
author = {Xuanxiang Huang and Joao Marques-Silva},
journal= {arXiv preprint arXiv:2302.08160},
year = {2023}
}