FunnyBirds：用于基于部件的可解释AI方法分析的合成视觉数据集
计算机视觉与模式识别
2023-08-14 v1 机器学习
摘要
可解释人工智能（XAI）领域旨在揭示复杂深度神经模型的内在机制。尽管XAI对安全关键领域至关重要，其本身缺乏真值解释，致使自动评估成为未解难题。我们提出一个名为FunnyBirds的新型合成视觉数据集及配套自动评估协议以应对该挑战。我们的数据集允许执行语义上有意义的图像干预（例如移除单个对象部件），这具有三点重要意义。首先，它支持在部件层级分析解释，比现有在像素层级评估的方法更贴近人类理解。其次，通过比较移除部件后输入对应的模型输出，我们可估计应反映在解释中的真值部件重要性。第三，通过将各解释映射到部件重要性的公共空间，我们能在单一通用框架下分析多种不同解释类型。利用我们的工具，我们报告了24种神经模型与XAI方法组合的结果，以完全自动且系统的方式展示了所评估方法的优势与不足。
引用
@article{arxiv.2308.06248,
title = {FunnyBirds: A Synthetic Vision Dataset for a Part-Based Analysis of Explainable AI Methods},
author = {Robin Hesse and Simone Schaub-Meyer and Stefan Roth},
journal= {arXiv preprint arXiv:2308.06248},
year = {2023}
}
备注
Accepted at ICCV 2023. Code: https://github.com/visinf/funnybirds