基于 Shapley 值模型解释的误差分析: 一个信息化视角
人工智能
2025-05-13 v2 机器学习
机器学习
摘要
Shapley 值归因(SVA)是一种日益流行的可解释人工智能(XAI)方法,它量化了每个特征对模型输出的贡献。然而,最近的研究表明,大多数现有实现 SVA 的方法都存在一些缺点,导致产生偏置或不可靠的解释,未能正确捕捉特征与模型输出之间真实的内在关系。此外,这些缺点的机制和后果尚未进行系统性讨论。本文提出了一种新颖的误差理论分析框架,在该框架中,SVA 的解释误差被分解为两个组成部分:观察偏差和结构偏差。我们进一步阐明了这两种偏差的潜在原因,并指出它们之间存在权衡。基于这一误差分析框架,我们开发了两个新概念:过度信息化和不够信息化解释。我们展示了这些概念如何有效用于理解现有 SVA 方法可能的误差。特别是对于广泛使用的基于假设的 SVA 方法,我们发现它们容易因分布漂移导致不够信息化,因为分布性假设。我们提出了一种衡量这种分布漂移的度量工具。最后,我们的实验说明了不同现有 SVA 方法可能是过度信息化或不够信息化。我们的工作阐明了误差如何导致 SVA 估计中的误差,并鼓励开发新的更不易出错的方法。
引用
@article{arxiv.2404.13522,
title = {Error Analysis of Shapley Value-Based Model Explanations: An Informative Perspective},
author = {Ningsheng Zhao and Jia Yuan Yu and Krzysztof Dzieciolowski and Trang Bui},
journal= {arXiv preprint arXiv:2404.13522},
year = {2025}
}