视觉解释对常见数据增强的鲁棒性

随着深度神经网络的使用持续增长，理解其行为变得比以往任何时候都更为关键。事后可解释性方法是一种潜在的解决方案，但其可靠性正受到质疑。我们的研究考察了事后视觉解释对自然发生的变换（通常称为数据增强）的响应。我们期望解释在某些变换下保持不变（例如颜色映射的改变），同时对平移、目标缩放和旋转等变换以等变方式作出响应。我们发现鲁棒性因变换类型不同而有显著差异，某些可解释性方法（如LRP组合与引导反向传播）比其他方法更稳定。我们还探讨了使用数据增强进行训练的作用。我们提供的证据表明，无论训练时是否使用数据增强，解释对增强的鲁棒性通常都低于分类性能。