图像解释的分类指标： Towards 构建可靠的 XAI 评估
计算机视觉与模式识别
2024-06-10 v1 人工智能
人机交互
摘要
计算机视觉模型的决策过程——尤其是深度神经网络——往往是不可见的，这意味着这些决策无法被人类理解。因此，过去几年来，提出了许多方法来提供人类可理解的解释。对于图像分类，最常见的是 saliency 方法，这些方法为输入图像提供（超）像素级特征归因分数。然而，其评估仍然是一个问题，因为其结果无法简单地与未知的 ground truth 进行比较。为克服这一问题，定义了各种代理指标，而这些指标——正如解释方法本身——常常基于直觉，因此可能不可靠。本文发展了新的评估指标用于 saliency 方法，并在 ImageNet 上对常见的 saliency 方法进行基准测试。此外，提出了一种基于心理测量学概念的指标可靠性评估方案。使用的代码可在 https://github.com/lelo204/ClassificationMetricsForImageExplanations 找到。
引用
@article{arxiv.2406.05068,
title = {Classification Metrics for Image Explanations: Towards Building Reliable XAI-Evaluations},
author = {Benjamin Fresz and Lena Lörcher and Marco Huber},
journal= {arXiv preprint arXiv:2406.05068},
year = {2024}
}