借助 SmoothTaylor 理解深度神经网络归因中的积分梯度
计算机视觉与模式识别
2021-09-03 v2 机器学习
摘要
积分梯度作为一种深度神经网络模型的归因方法具有易于实现的优点。然而，它存在解释噪声大的问题，影响了可解释性的便利程度。SmoothGrad 技术被提出以解决噪声问题并平滑任意基于梯度的归因方法的归因图。本文中，我们从泰勒定理视角提出 SmoothTaylor 这一新颖理论概念，桥接积分梯度与 SmoothGrad。我们将这些方法应用于图像分类问题，使用 ILSVRC2012 ImageNet 物体识别数据集及若干预训练图像模型生成归因图。这些归因图采用灵敏度与噪声水平的定量度量进行经验评估。我们进一步提出自适应加噪以优化噪声尺度超参数值。由实验我们发现，相较于积分梯度，SmoothTaylor 方法结合自适应加噪能够生成质量更优的显著图，其噪声更小且对输入空间中相关点的灵敏度更高。
引用
@article{arxiv.2004.10484,
title = {Understanding Integrated Gradients with SmoothTaylor for Deep Neural Network Attribution},
author = {Gary S. W. Goh and Sebastian Lapuschkin and Leander Weber and Wojciech Samek and Alexander Binder},
journal= {arXiv preprint arXiv:2004.10484},
year = {2021}
}
备注
8 pages, 3 figures. Accepted in 25th International Conference on Pattern Recognition, (ICPR) 2020. In Proceedings: pp. 4949-4956