对抗防御的实证综述

从安装在手机中的人脸识别系统到自动驾驶汽车，人工智能领域正经历快速变革，并以惊人速度融入我们的日常生活。这些系统预测的任何重大失败都可能是灾难性的，泄露敏感信息甚至危及生命（如自动驾驶汽车的情况）。然而，作为此类系统基础的深度神经网络极易受到一种特定类型的攻击，称为对抗攻击。黑客即使以最低计算量，也能生成对抗样本（属于另一类的图像或数据点，但持续欺骗模型使其被误分类为真实样本）并摧毁此类算法的基础。在本文中，我们汇编并测试了多种防御此类对抗攻击的方法。在探索的方法中，我们发现了两种有效技术，即Dropout和去噪自编码器，并展示了它们在阻止此类攻击欺骗模型方面的成功。我们证明这些技术对更高噪声水平以及不同种类的对抗攻击也具有抗性（尽管未针对所有攻击测试）。我们还开发了一个框架，基于应用性质和深度神经网络的资源约束来决定合适的防御技术。