解耦像素翻转与遮挡策略以实现一致的 XAI 基准

Stefan Blücher; Johanna Vielhaben; Nils Strodthoff

解耦像素翻转与遮挡策略以实现一致的 XAI 基准

计算机视觉与模式识别 2024-08-27 v1 人工智能机器学习

作者: Stefan Blücher , Johanna Vielhaben , Nils Strodthoff

摘要

特征移除是可解释人工智能 (XAI) 的核心构建模块，既用于基于遮挡的解释（Shapley 值），也用于其评估（像素翻转，PF）。然而，遮挡策略差异显著，从简单的均值替换到使用最先进的扩散模型进行修复。这种模糊性限制了基于遮挡方法的实用性。例如，PF 基准会导致相互矛盾的排名。竞争的 PF 度量加剧了这一问题：特征移除要么从最有影响力的开始 (MIF)，要么从最无影响力的开始 (LIF)。本研究提出两个互补的视角来解决这一分歧问题。首先，我们回应了基于遮挡的 XAI 的一个常见批评，即人工样本导致不可靠的模型评估。我们提出通过参考模型范围外 (R-OMS) 分数来衡量可靠性。R-OMS 分数能够系统比较遮挡策略，并通过分组一致的 PF 排名来解决分歧问题。其次，我们表明 MIF 和 LIF 的洞察力反过来依赖于 R-OMS 分数。为了利用这一点，我们将 MIF 和 LIF 度量结合为对称相关性增益 (SRG) 度量。这打破了与底层遮挡策略的内在联系，并产生一致的排名。这解决了分歧问题，我们在 40 种不同遮挡策略的集合上验证了这一点。

关键词

可解释人工智能像素翻转遮挡策略 Shapley 值 R-OMS 分数对称相关性增益 XAI 基准

引用

@article{arxiv.2401.06654,
  title  = {Decoupling Pixel Flipping and Occlusion Strategy for Consistent XAI Benchmarks},
  author = {Stefan Blücher and Johanna Vielhaben and Nils Strodthoff},
  journal= {arXiv preprint arXiv:2401.06654},
  year   = {2024}
}

备注

28 pages, 8 figures

解耦像素翻转与遮挡策略以实现一致的 XAI 基准

摘要

关键词

引用

备注

相关论文