解释游戏——复兴（扩展版）
人工智能
2025-02-18 v2
摘要
最近的研究揭示了当前在可解释人工智能（XAI）中使用Shapley值的关键缺陷，即所谓的SHAP得分。这些缺陷对于人类决策者提供的得分而言具有重要误导性。尽管这些负面结果可能表明Shapley值不应在XAI中使用，但本文认为情况并非如此。具体而言，本文提出了一种新的Shapley得分定义，克服了现有缺陷。此外，本文概述了对新Shapley得分进行严格估计的实用高效方法。初步实验结果确认了我们的主张，进一步凸显了当前SHAP得分的缺陷。
引用
@article{arxiv.2501.11429,
title = {The Explanation Game -- Rekindled (Extended Version)},
author = {Joao Marques-Silva and Xuanxiang Huang and Olivier Letoffe},
journal= {arXiv preprint arXiv:2501.11429},
year = {2025}
}