显著性图为何含噪？噪声显著性图的成因与解决
机器学习
2019-09-17 v3 计算机视觉与模式识别
机器学习
摘要
显著性图（saliency map）即得分函数相对于输入的梯度，是解释深度神经网络决策的最基本技术。然而，显著性图常在视觉上含有噪声。尽管已有若干假设解释该现象，但鲜有工作对噪声显著性图给出严格分析。本文首先提出一新假设：当无关特征通过ReLU激活函数时，显著性图中可能出现噪声。随后，我们提出修正梯度（Rectified Gradient）方法，通过在反向传播中逐层阈值化来缓解此问题。在CIFAR-10与ImageNet上训练的神经网络实验表明了本方法的有效性及其相对于其他归因方法的优越性。
引用
@article{arxiv.1902.04893,
title = {Why are Saliency Maps Noisy? Cause of and Solution to Noisy Saliency Maps},
author = {Beomsu Kim and Junghoon Seo and SeungHyun Jeon and Jamyoung Koo and Jeongyeol Choe and Taegyun Jeon},
journal= {arXiv preprint arXiv:1902.04893},
year = {2019}
}
备注
Accepted at the 2019 ICCV Workshop on Interpreting and Explaining Visual AI Models (VXAI 2019)