面向联盟中输入变量的归因
机器学习
2026-02-25 v3 人工智能
计算机视觉与模式识别
摘要
本文关注可解释 AI 中归因方法的输入变量划分这一基本挑战，尤其在基于 Shapley 值的方法中。以往方法总是在给定预定义划分下计算归因，但缺乏关于如何形成有意义变量划分的理论指导。我们识别出当联盟的归因不同于其各单独变量归因之和时会出现归因冲突。为此，我们分析了 AI 模型中与-或(AND-OR)交互的数值效应，并将 Shapley 值扩展为一种用于变量联盟的新归因度量。我们的理论发现揭示了特定交互会导致归因冲突，并提出了三种评估联盟忠实度的度量。在合成数据、NLP、图像分类以及围棋上的实验验证了我们的方法，显示出与人类直觉的一致性和实际适用性。
引用
@article{arxiv.2309.13411,
title = {Towards Attributions of Input Variables in a Coalition},
author = {Xinhao Zheng and Huiqi Deng and Quanshi Zhang},
journal= {arXiv preprint arXiv:2309.13411},
year = {2026}
}
备注
Accepted to the 2025 International Conference on Machine Learning (ICML 2025)