基于范数正则化对抗训练的结构化梯度解释

基于梯度的显著性图已被广泛用于解释深度神经网络分类器的决策。然而，标准的基于梯度的解释图，包括简单梯度算法和积分梯度算法，在应用于真实世界计算机视觉模型时，通常缺乏稀疏性和连通性等理想结构。一种将稀疏结构引入基于梯度的显著性图的常用方法是使用稀疏化或基于范数的正则化来修改简单梯度方案。此类后处理方法的一个缺点是，经常观察到其与原始简单梯度图的保真度显著下降。在这项工作中，我们提出将对抗训练作为一种处理中方案，以训练具有结构化简单梯度图的神经网络。我们证明了对抗扰动的正则化范数与基于梯度的图之间的对偶关系，基于此，我们设计了对抗训练损失函数，以在简单梯度图中促进稀疏性和组稀疏性。我们给出了若干数值结果，以展示我们提出的基于范数的对抗训练方法对标准神经网络架构在基准图像数据集上的标准梯度图的影响。