元对抗扰动

已有大量攻击方法被提出以生成对抗样本，其中迭代方法已被证明能够找到强攻击。然而，为新数据点计算对抗扰动需要从头求解一个耗时的优化问题。为了生成更强的攻击，通常需要用更多迭代来更新数据点。在本文中，我们展示了元对抗扰动 (MAP) 的存在，这是一种更好的初始化，使得自然图像在经过仅一步梯度上升更新后即以高概率被误分类，并提出了一种计算此类扰动的算法。我们进行了大量实验，经验结果表明最先进的深度神经网络易受元扰动攻击。我们进一步表明这些扰动不仅是图像无关的，而且是模型无关的，因为单个扰动在未见数据点和不同神经网络架构上均能很好地泛化。