Saliency-Bench：评估视觉解释的综合基准
计算机视觉与模式识别
2026-01-27 v3
摘要
可解释AI（XAI）因能洞察深度学习模型的决策过程而受到显著关注，尤其是通过显著图可视化的视觉解释用于图像分类任务。尽管取得成功，由于缺乏标注数据集与标准化评估流程，挑战依然存在。本文中，我们引入Saliency-Bench，一个新颖的基准套件，旨在评估显著方法在多个数据集上生成的视觉解释。我们策划、构建并标注了八个数据集，每个覆盖多样任务如场景分类、癌症诊断、物体分类与动作分类，并带有对应的真实解释。该基准包含标准化且统一的评估流程，用于评估视觉解释的忠实度与对齐度，提供整体的视觉解释性能评估。我们用广泛使用的显著方法在不同图像分类器架构上对这些八个数据集进行基准测试以评估解释质量。此外，我们开发了易于使用的API来自动化评估流程，从数据访问、数据加载到结果评估。该基准可通过我们的网站获取：https://xaidataset.github.io。
引用
@article{arxiv.2310.08537,
title = {Saliency-Bench: A Comprehensive Benchmark for Evaluating Visual Explanations},
author = {Yifei Zhang and James Song and Siyi Gu and Tianxu Jiang and Bo Pan and Guangji Bai and Liang Zhao},
journal= {arXiv preprint arXiv:2310.08537},
year = {2026}
}