黑盒攻击中面向视觉失真的对抗样本生成
机器学习
2021-07-28 v2 计算机视觉与模式识别
机器学习
摘要
在黑盒威胁模型下构造对抗样本会通过引入视觉失真而损害原始图像。本文提出一种新颖的黑盒攻击方法，该方法在仅假设对黑盒网络有损失预言机访问的前提下，通过学习对抗样本的噪声分布来直接最小化所引入的失真。我们在损失中引入了量化视觉失真，用于度量对抗样本与原始图像之间的感知距离，而相应不可微损失函数的梯度则通过从所学噪声分布中采样噪声来近似。我们在 ImageNet 上验证了攻击的有效性。与最先进的黑盒攻击相比，我们的攻击产生的失真显著更低，并在 InceptionV3、ResNet50 和 VGG16bn 上达到了 的成功率。代码见 https://github.com/Alina-1997/visual-distortion-in-attack。
引用
@article{arxiv.2007.10593,
title = {Towards Visual Distortion in Black-Box Attacks},
author = {Nannan Li and Zhenzhong Chen},
journal= {arXiv preprint arXiv:2007.10593},
year = {2021}
}