XAI 事后技术保真度评估：基于真实解释数据集的比较研究
计算机视觉与模式识别
2023-11-06 v1 人工智能
摘要
可解释人工智能（XAI）方法对其底层模型的保真度评估是一项具有挑战性的任务，主要由于缺少解释的真实基准。然而，评估保真度是确保正确 XAI 方法的必要步骤。在本研究中，我们通过引入三个带有可靠解释真实基准的新型图像数据集，对当前最先进的 XAI 方法进行公平客观的对比。该比较的主要目标是识别低保真度方法并将其排除于进一步研究之外，从而促进更可信且更有效的 XAI 技术发展。我们的结果表明，基于输出信息向输入反向传播的方法相比依赖敏感性分析或类激活图（CAM）的方法具有更高的准确性与可靠性。然而，反向传播方法往往生成更具噪声的显著图。这些发现对 XAI 方法的推进具有重要意义，能够剔除错误解释并促进更鲁棒、更可靠的 XAI 的发展。
引用
@article{arxiv.2311.01961,
title = {Assessing Fidelity in XAI post-hoc techniques: A Comparative Study with Ground Truth Explanations Datasets},
author = {M. Miró-Nicolau and A. Jaume-i-Capó and G. Moyà-Alcover},
journal= {arXiv preprint arXiv:2311.01961},
year = {2023}
}