EvolBA：基于硬标签黑盒条件的演化边界攻击
计算机视觉与模式识别
2024-07-10 v3
摘要
研究表明，深度神经网络（DNNs）存在漏洞，可导致针对特定扰动设计的对抗样本（AEs）被误识别。针对在无损失梯度和置信度分数的硬标签黑盒（HL-BB）条件下检测漏洞，已提出各种对抗攻击方法。然而，这些方法因仅搜索搜索空间的局部区域而陷入局部解。因此，本研究提出一种名为EvolBA的对抗攻击方法，利用协方差矩阵适应演化策略（CMA-ES）在HL-BB条件下生成AEs，其中仅可获得目标DNNs模型预测的类别标签。灵感来自公式驱动的监督学习，所提出的方法引入了用于初始化过程的域无关算子以及一种增强搜索探索的跳跃。实验结果确认，所提出的方法可在以往方法难以处理的图像中生成更小扰动的AEs。
引用
@article{arxiv.2407.02248,
title = {EvolBA: Evolutionary Boundary Attack under Hard-label Black Box condition},
author = {Ayane Tajima and Satoshi Ono},
journal= {arXiv preprint arXiv:2407.02248},
year = {2024}
}