查询高效的基于决策的黑盒补丁攻击
计算机视觉与模式识别
2023-07-04 v1 密码学与安全
摘要
深度神经网络(DNNs)已被证明对难以察觉的对抗扰动高度脆弱。作为一类互补的对手,对图像引入可察觉扰动的补丁攻击已引起研究人员的兴趣。现有的补丁攻击依赖于模型的架构或预测的概率,在基于决策的设置下表现不佳,而该设置仅暴露最少的信息——top-1预测标签——仍可构造扰动。在本工作中,我们首次探索了基于决策的补丁攻击。为提升攻击效率,我们使用成对关键点对补丁建模,并以目标图像作为补丁的初始化,所有参数优化均在整数域上执行。随后,我们提出了一种名为DevoPatch的差分进化算法,用于查询高效的基于决策的补丁攻击。实验表明,在给定查询预算下,DevoPatch在图像分类和人脸验证上的补丁面积和攻击成功率均优于最先进的黑盒补丁攻击。此外,我们首次在基于决策的补丁攻击设置下对ViT和MLP在图像分类上的脆弱性进行了评估。利用DevoPatch,我们可以评估模型对黑盒补丁攻击的鲁棒性。我们相信该方法未来能启发基于各种DNN架构的鲁棒视觉模型的设计与部署。
引用
@article{arxiv.2307.00477,
title = {Query-Efficient Decision-based Black-Box Patch Attack},
author = {Zhaoyu Chen and Bo Li and Shuang Wu and Shouhong Ding and Wenqiang Zhang},
journal= {arXiv preprint arXiv:2307.00477},
year = {2023}
}