可信赖的 SHAP 得分
机器学习
2024-12-20 v2 人工智能
摘要
SHAP得分代表了在可解释人工智能（XAI）中应用众所周知的Shapley值。最近的研究表明，精确计算SHAP得分可能产生不令人满意的结果。具体而言，对于某些机器学习模型，SHAP得分会就相对特征影响力产生误导。为解决这些限制，最近提出的替代方案利用不同的公理化聚合，全部以归因解释的方式定义。然而，所提出的公理化聚合并非Shapley值。本文研究如何修改SHAP得分，以将公理化聚合扩展到XAI中的Shapley值。更重要的是，本文提出的新定义的SHAP得分避免了已识别的所有不令人满意的结果。本文还描述了计算新定义SHAP得分的复杂性，概述了哪些分类器的计算是可行的。此外，本文提出了对现有SHAP得分实现的修改。这些修改消除了SHAP得分的一些已知限制，在性能上几乎没有影响。
引用
@article{arxiv.2405.00076,
title = {Towards trustable SHAP scores},
author = {Olivier Letoffe and Xuanxiang Huang and Joao Marques-Silva},
journal= {arXiv preprint arXiv:2405.00076},
year = {2024}
}