Sparse-RS：一种用于查询高效稀疏黑盒对抗攻击的通用框架
机器学习
2022-02-09 v3 密码学与安全
计算机视觉与模式识别
机器学习
摘要
我们提出一种基于随机搜索的通用框架Sparse-RS，用于黑盒设定下基于分数的稀疏目标与非目标攻击。Sparse-RS不依赖替代模型，并在多种稀疏攻击模型上实现了最先进的成功率与查询效率：有界扰动、对抗补丁和对抗帧。非目标Sparse-RS的版本在MNIST、CIFAR-10和ImageNet上针对不同模型优于所有黑盒甚至所有白盒攻击。此外，我们的非目标Sparse-RS即使在图像上对抗补丁和像素宽对抗帧这一极具挑战的设定下也实现了非常高的成功率。最后，我们展示Sparse-RS可应用于生成目标通用对抗补丁，其显著优于现有方法。我们的框架代码可在https://github.com/fra31/sparse-rs获取。
引用
@article{arxiv.2006.12834,
title = {Sparse-RS: a versatile framework for query-efficient sparse black-box adversarial attacks},
author = {Francesco Croce and Maksym Andriushchenko and Naman D. Singh and Nicolas Flammarion and Matthias Hein},
journal= {arXiv preprint arXiv:2006.12834},
year = {2022}
}
备注
Accepted at AAAI 2022. This version contains considerably extended results in the L0 threat model