黑盒模型图像分类中不良像素的解释方法
计算机视觉与模式识别
2019-12-17 v2
摘要
为解释黑盒模型，近年来开发解释方法的研究不断进展。多数研究试图识别对分类器预测至关重要的输入像素。虽然这种方法对分析黑盒模型的特征有意义，但研究干扰预测的像素同样重要。为解决此问题，本文提出一种解释方法，将图像被分类为目标类别时的不良区域可视化。具体而言，我们将不良区域的概念分为两项：(1) 目标类别的干扰因素，阻碍黑盒模型识别目标类别的固有特征；(2) 非目标类别的干扰因素，即图像被分类为其他类别时的重要区域。我们在热图上可视化此类不良区域，以定性验证所提方法。此外，我们提出一种评估指标，在 ImageNet 上提供定量结果。
引用
@article{arxiv.1909.12446,
title = {Interpreting Undesirable Pixels for Image Classification on Black-Box Models},
author = {Sin-Han Kang and Hong-Gyu Jung and Seong-Whan Lee},
journal= {arXiv preprint arXiv:1909.12446},
year = {2019}
}
备注
Accepted to 2019 ICCV Workshop on Interpreting and Explaining Visual Artificial Intelligence Models