一种生成带 XAI 真值数据集以评估图像模型的新方法
计算机视觉与模式识别
2023-10-05 v2 人工智能
机器学习
摘要
随着人工智能（AI）使用的增加，理解这些模型内部如何运作变得至关重要。这些需求催生了名为可解释人工智能（XAI）的新领域。该领域包含一组技术，使我们能从理论上确定 AI 决策的原因。XAI 的一个主要问题是如何验证该领域的工作，考虑到缺乏真值（GT）。在本研究中，我们提出一种生成带 GT 数据集的新方法。我们进行了一系列实验，将我们的 GT 与真实模型解释进行比较，获得了优异结果，证实了我们提出方法的正确性。
引用
@article{arxiv.2302.05624,
title = {A novel approach to generate datasets with XAI ground truth to evaluate image models},
author = {Miquel Miró-Nicolau and Antoni Jaume-i-Capó and Gabriel Moyà-Alcover},
journal= {arXiv preprint arXiv:2302.05624},
year = {2023}
}