通用对抗扰动

给定一个最先进的深度神经网络分类器，我们展示了一种通用的（与图像无关的）且非常小的扰动向量的存在，该向量使自然图像以高概率被错误分类。我们提出了一种计算通用扰动的系统性算法，并表明最先进的深度神经网络对此类扰动高度脆弱，尽管它们对人眼几乎是难以察觉的。我们进一步对这些通用扰动进行实证分析，特别展示了它们在神经网络之间具有很好的泛化能力。通用扰动的惊人存在揭示了分类器高维决策边界之间的重要几何相关性。它还勾勒出潜在的安全漏洞，即在输入空间中存在单一方向，对手可能利用其在大多数自然图像上破坏分类器。