用于解释个体图像分类的上下文预测差异分析
机器学习
2020-06-09 v2 计算机视觉与模式识别
机器学习
摘要
近年来，人们投入了大量精力来理解深度神经网络的决策。许多模型相关的显著性方法被提出，通过创建显著性图来解释个体分类决策。然而，当底层模型的参数和梯度不可用时，它们并不适用。最近，模型无关的方法也受到了关注。作为其中之一，预测差异分析（Prediction Difference Analysis, PDA）作为一种概率上严谨的方法被提出。在本工作中，我们首先表明 PDA 可能会受到饱和分类器的影响。分类器的饱和现象在当前基于神经网络的分类器中广泛存在。为了更好地解释饱和分类器的决策，我们进一步提出了上下文 PDA（Contextual PDA），其运行速度比 PDA 快数百倍。实验通过解释最先进的深度卷积神经网络的图像分类，展示了我们方法的优越性。
引用
@article{arxiv.1910.09086,
title = {Contextual Prediction Difference Analysis for Explaining Individual Image Classifications},
author = {Jindong Gu and Volker Tresp},
journal= {arXiv preprint arXiv:1910.09086},
year = {2020}
}