Curls & Whey：增强黑盒对抗攻击
计算机视觉与模式识别
2019-04-03 v1
摘要
基于深度神经网络的图像分类器受到对抗样本造成的干扰。黑盒迭代攻击通过逐步调整加噪方向来生成对抗样本，存在两个缺陷。一方面，现有迭代攻击沿梯度上升方向单调加噪，导致生成的迭代轨迹缺乏多样性与适应性。另一方面，通过添加过量噪声进行对抗攻击轻而易举，但目前没有精炼机制来挤压冗余噪声。本工作中，我们提出 Curls & Whey 黑盒攻击以修正上述两个缺陷。在 Curls 迭代中，通过结合梯度上升与下降，我们将迭代轨迹“卷曲”起来，为对抗样本融入更多多样性与可迁移性。Curls 迭代也缓解了现有迭代攻击中的边际效应递减。Whey 优化进一步利用对抗扰动的鲁棒性挤压噪声的“乳清”。在 Imagenet 与 Tiny-Imagenet 上的大量实验表明，我们的方法在 l2 范数下实现了噪声幅度的显著下降。Curls & Whey 攻击在面对集成模型以及对抗训练模型时也展现出良好的可迁移性。此外，我们将该攻击扩展到目标误分类，有效降低了黑盒条件下目标攻击的难度。
引用
@article{arxiv.1904.01160,
title = {Curls & Whey: Boosting Black-Box Adversarial Attacks},
author = {Yucheng Shi and Siyu Wang and Yahong Han},
journal= {arXiv preprint arXiv:1904.01160},
year = {2019}
}
备注
CVPR 2019 Oral