在 LEGO 多标签图像分类任务上评估 LIME 与 Grad-CAM 解释方法的性能
计算机视觉与模式识别
2020-08-05 v1
摘要
在本文中，我们在一个训练用于用图像中可见的 LEGO 积木来标注图像的卷积神经网络上运行两种解释方法，即 LIME 和 Grad-CAM。我们基于两个标准对它们进行评估：网络核心性能的提升以及它们能够为系统用户生成的信任度。我们发现总体而言，在此特定任务上 Grad-CAM 似乎优于 LIME：从核心性能角度看它产生更详细的洞察，且在被问及在二者间选择其所能激发的对模型的信任时，80% 的受访者选择了 Grad-CAM。然而，我们也假定同时使用这两种方法更有用，因为它们产生的洞察是互补的。
引用
@article{arxiv.2008.01584,
title = {Evaluating the performance of the LIME and Grad-CAM explanation methods on a LEGO multi-label image classification task},
author = {David Cian and Jan van Gemert and Attila Lengyel},
journal= {arXiv preprint arXiv:2008.01584},
year = {2020}
}
备注
Supervision by Jan van Gemert and Attila Lengyel