合成鲁棒的对抗样本

由于视点偏移、相机噪声和其他自然变换的组合影响，为神经网络生成对抗样本的标准方法在物理世界中并不能始终欺骗神经网络分类器，这限制了它们与现实世界系统的相关性。我们证明了鲁棒的3D对抗物体的存在，并提出了首个算法，用于合成在一组选定的变换分布上具有对抗性的样本。我们合成了对噪声、失真和仿射变换鲁棒的二维对抗图像。我们将算法应用于复杂的三维物体，利用3D打印制造了首个物理对抗物体。我们的结果证明了物理世界中3D对抗物体的存在。