超越Shapley值：用于机器学习模型解释的合作博弈
机器学习
2025-06-18 v1 人工智能
机器学习
摘要
合作博弈论已成为机器学习中事后可解释性的基石，这主要通过Shapley值的应用实现。然而，尽管Shapley方法被广泛采用，但其通常依赖于公理化的论证，而这些论证与特征归因的相关性仍存在争议。在本文中，我们从可解释性的角度重新审视合作博弈论，并主张更广泛、更有原则地使用其工具。我们重点介绍了两类有效的分配方案——Weber集和Harsanyi集，它们超越了Shapley值，提供了更丰富的解释灵活性。我们提供了这些分配方案的易懂概述，阐明了价值函数与聚合规则之间的区别，并介绍了一个用于构建可靠且理论扎实的特征归因的三步蓝图。我们的目标是超越固定的公理，为XAI社区提供一个连贯的框架，以设计既有意义又能抵御方法趋势变化的归因方法。
引用
@article{arxiv.2506.13900,
title = {Beyond Shapley Values: Cooperative Games for the Interpretation of Machine Learning Models},
author = {Marouane Il Idrissi and Agathe Fernandes Machado and Arthur Charpentier},
journal= {arXiv preprint arXiv:2506.13900},
year = {2025}
}