奇异向量与通用对抗扰动的艺术

深度神经网络（DNNs）对对抗攻击的脆弱性在近期研究中备受关注。已有研究表明，对于许多执行图像分类的最先进DNN，存在通用对抗扰动——与图像无关的扰动，将其简单加到自然图像上极有可能导致误分类。本工作中，我们提出一种构造此类通用扰动的新算法。我们的方法基于计算网络隐藏层雅可比矩阵所谓的$(p, q)$-奇异向量。所得扰动呈现出有趣的视觉模式，并且仅使用64张图像，我们就能在包含50000张图像的数据集上构造出欺骗率超过60\%的通用扰动。我们还研究了雅可比矩阵的最大奇异值与该对应奇异向量的欺骗率之间的相关性，并表明所构造的扰动可跨网络泛化。