用于评估解释方法的有意义扰动度量
计算机视觉与模式识别
2025-04-10 v1
摘要
深度神经网络（DNN）已展现出显著的成功，但其广泛应用往往受到决策不透明的制约。为此，提出了归因方法，用于为输入的每个部分分配相关性值。然而，不同方法常常会产生完全不同的相关性图，这就需要发展标准化的度量来评估它们。通常，这种评估通过扰动来完成，即操控输入图像的高或低相关性区域，以检验预测的变化。在本工作中，我们提出了一种新方法，利用图像生成模型执行有针对性的扰动。具体地，我们聚焦于仅对输入图像的高相关性像素进行填补，以修改模型的预测，同时保持图像保真度。这与现有方法不同，后者常常会产生超分布的修改，导致结果不可靠。通过大量实验，我们展示了该方法在生成有意义的排序方面的有效性，能够在广泛的模型和归因方法之间产生排序。关键的是，我们确立了本度量产生的排序与人类偏好之间的相关性显著高于现有方法，这凸显了其在增强 DNN 可解释性方面的潜力。
引用
@article{arxiv.2504.06800,
title = {A Meaningful Perturbation Metric for Evaluating Explainability Methods},
author = {Danielle Cohen and Hila Chefer and Lior Wolf},
journal= {arXiv preprint arXiv:2504.06800},
year = {2025}
}