使用对抗网络实现鲁棒深度学习的直接方法

深度神经网络已被证明在许多经典机器学习问题中表现良好，尤其在图像分类任务中。然而，研究者发现神经网络很容易被欺骗，并且它们对人工难以察觉的微小扰动出奇地敏感。精心构造的输入图像（对抗样本）可迫使训练良好的神经网络给出任意输出。在训练中纳入对抗样本是一种流行的抵御对抗攻击的防御机制。本文我们在生成对抗网络（GAN）框架下提出一种新的防御机制。我们使用生成网络对对抗噪声建模，并与分类判别网络作为极小极大博弈联合训练。我们通过经验表明，我们的对抗网络方法在黑盒攻击下表现良好，性能与集成对抗训练和使用投影梯度下降的对抗训练等最先进方法相当。