通用对抗扰动：综述

在过去十年中，深度学习已成为解决从图像分类到人体姿态估计等广泛复杂学习问题的有用且高效的工具，这类问题使用统计机器学习算法难以解决。然而，尽管性能优越，深度神经网络易受对抗扰动的攻击，其可在不对输入图像造成可感知改变的情况下使网络预测发生改变，从而在部署此类系统时产生严重安全问题。近期工作已表明通用对抗扰动的存在：当将其加至数据集中任意图像时，经目标模型传播后会致其误分类。此类扰动由于实际攻击中计算量极小而更具实用性。若干技术也被提出以防御神经网络抵御这些扰动。本文中，我们试图详细讨论各种数据驱动与数据无关的通用扰动生成方法，以及针对此类扰动的防御措施。我们还涵盖了此类通用扰动在各种深度学习任务中的应用。