SHAP分数即使在Lipschitz成功时也普遍失败
机器学习
2024-12-20 v1 人工智能
摘要
Shapley值在可解释人工智能（XAI）中的广泛使用是由SHAP工具引发的，因此通常被称为SHAP分数。最近的工作设计了一些机器学习（ML）分类器的例子，其中计算出的SHAP分数完全不令人满意，可能会误导人类决策者。然而，这些例子可能被认为有些人为，因为所选类别必须被解释为数值。此外，尚不清楚SHAP分数所识别的问题有多普遍。本文回答了这些批评。首先，论文表明对于布尔分类器，存在任意多的例子，其中SHAP分数必须被认为是不令人满意的。其次，论文表明SHAP分数的问题也在回归模型的情况下观察到。此外，论文研究了满足Lipschitz连续性的回归模型类别，Lipschitz连续性是一种衡量函数变化率的度量，在ML中最近有重要用途，包括模型鲁棒性。具体来说，论文表明即使对于满足Lipschitz连续性的回归模型，SHAP分数的问题也会发生。最后，论文表明对于任意可微的回归模型，同样的问题必然存在。
引用
@article{arxiv.2412.13866,
title = {SHAP scores fail pervasively even when Lipschitz succeeds},
author = {Olivier Letoffe and Xuanxiang Huang and Joao Marques-Silva},
journal= {arXiv preprint arXiv:2412.13866},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:2405.00076