用于神经网络视觉解释的层次化动态掩膜
计算机视觉与模式识别
2023-01-13 v1
摘要
生成表示图像像素对模型分类重要性的视觉解释图的显著性方法，是解释神经网络决策的一种流行技术。本文提出了一种新颖的解释图生成方法——层次化动态掩膜 (HDM)，以增强显著性图的粒度和全面性。首先，我们提出了动态掩膜 (DM)，它通过优化方法使多个小尺寸基准掩膜向量能够粗略地学习图像中的关键信息。然后，基准掩膜向量引导大尺寸辅助掩膜向量的学习，使得它们叠加后的掩膜能够准确地学习细粒度的像素重要性信息，并降低对对抗性扰动的敏感性。此外，我们通过级联 DM 模块构建了 HDM。这些 DM 模块以学习的方式，在掩膜图像中寻找并融合神经网络剩余分类决策中的感兴趣区域。由于 HDM 强制 DM 在不同区域进行重要性分析，这使得融合后的显著性图更加全面。在自然图像和医学数据集上的测试表明，所提方法在识别和定位能力上显著优于先前的方法。
引用
@article{arxiv.2301.04970,
title = {Hierarchical Dynamic Masks for Visual Explanation of Neural Networks},
author = {Yitao Peng and Longzhen Yang and Yihang Liu and Lianghua He},
journal= {arXiv preprint arXiv:2301.04970},
year = {2023}
}