Fast-UAP：一种基于扰动向量方向加速通用对抗扰动生成的算法
机器学习
2020-01-07 v3 机器学习
摘要
卷积神经网络（CNN）已成为最流行的机器学习工具之一，并被应用于各种任务，然而 CNN 模型易受通用扰动的影响，这类扰动通常人类难以察觉，却能使自然图像以高概率被误分类。生成通用扰动的最先进算法之一被称为 UAP。UAP 在每次迭代中仅聚合最小扰动，这将导致生成的通用扰动幅度无法有效提升，从而造成生成速度缓慢。在本文中，我们提出一种基于扰动向量方向的优化算法，以改进通用扰动的构造性能。在每次迭代中，我们不再针对每幅图像选择最小扰动向量，而是将通用扰动的当前实例与和前者方向相似的扰动聚合，使得聚合后的幅度在每次迭代中尽可能增大。实验结果表明，我们在更短时间内以更少的训练图像数量获得了通用扰动。此外，我们在实验中观察到，与 UAP 生成的通用扰动相比，我们所提算法生成的通用扰动在白盒攻击与黑盒攻击中的欺骗率平均提升了 9%。
引用
@article{arxiv.1911.01172,
title = {Fast-UAP: An Algorithm for Speeding up Universal Adversarial Perturbation Generation with Orientation of Perturbation Vectors},
author = {Jiazhu Dai and Le Shu},
journal= {arXiv preprint arXiv:1911.01172},
year = {2020}
}
备注
9 pages, 7 figures, 1 table, 1 algorithm