可视化黑盒图像分类模型基于颜色的显著性
计算机视觉与模式识别
2020-10-07 v1 机器学习
摘要
基于机器学习的图像分类正被普遍使用。然而，由包括深度学习在内的先进方法给出的分类结果往往难以解释。这种可解释性问题是在安全关键系统中部署训练模型的主要障碍之一。已有若干技术被提出以应对该问题；其中之一是 RISE，它通过称为显著性图的热图来解释分类结果，该热图解释了每个像素的重要性。我们提出 MC-RISE（Multi-Color RISE），作为 RISE 的增强版，在解释中考虑颜色信息。我们的方法不仅像原始 RISE 那样展示给定图像中每个像素的显著性，还展示每个像素颜色分量的重要性；带有颜色信息的显著性图在颜色信息重要的领域（如交通标志识别）尤为有用。我们实现了 MC-RISE，并使用两个数据集（GTSRB 与 ImageNet）对其进行评估，以证明我们的方法相较于现有图像分类结果解释技术的有效性。
引用
@article{arxiv.2010.02468,
title = {Visualizing Color-wise Saliency of Black-Box Image Classification Models},
author = {Yuhki Hatakeyama and Hiroki Sakuma and Yoshinori Konishi and Kohei Suenaga},
journal= {arXiv preprint arXiv:2010.02468},
year = {2020}
}
备注
To appear in ACCV 2020