图像解释的重要性：真实世界对抗图像中的语义误分类模式

对抗图像被制造出来的目的是使图像分类器产生误分类。在本文中，我们提出对抗图像应基于语义不匹配而非当前工作所用的标签不匹配来评估。换言之，我们提出若一张“马克杯”的图像被分类为“芜菁”则视为对抗图像，但被分类为“杯子”则不算，尽管现有系统会如此假定。我们考虑在对抗图像评估中引入语义误分类这一新思路带来两点益处。首先，它是对抗图像本质更现实的概念化，对于充分理解对抗图像在安全与隐私方面的影响十分重要。其次，它使得无需在图像生成时获知分类器的标签集，即可评估对抗图像对真实世界分类器的可迁移性。本文利用我们的语义误分类方法，对真实世界图像分类器实施了一次迁移攻击评估。该攻击揭示了对抗误分类语义中的若干模式，而这些模式使用传统的标签不匹配方法是无法研究的。