抹掉它！一种基于进化的神经网络对抗攻击
神经与进化计算
2020-08-07 v3 机器学习
图像与视频处理
摘要
我们研究图像分类器在受限威胁模型下的黑盒对抗攻击，其中 adversary 仅能以图像上划痕的形式修改极小部分像素。我们表明 adversary 可生成覆盖图像少于 像素的局部化\textit{对抗划痕}，并在 ImageNet 和 CIFAR-10 上训练的 ResNet-50 模型上分别达到 和 的目标攻击成功率。我们证明我们的划痕在多种形状下均有效，如直线或抛物 B\a'ezier 曲线，且可为单色或多色。在极端条件下，我们的划痕为单色时，在 CIFAR-10 上以比可比攻击少一个数量级的查询量获得 的目标攻击成功率。我们成功对微软 Cognitive Services 图像描述 API 发起攻击，并提出了多种缓解策略。
引用
@article{arxiv.1912.02316,
title = {Scratch that! An Evolution-based Adversarial Attack against Neural Networks},
author = {Malhar Jere and Loris Rossi and Briland Hitaj and Gabriela Ciocarlie and Giacomo Boracchi and Farinaz Koushanfar},
journal= {arXiv preprint arXiv:1912.02316},
year = {2020}
}