EvoBA:一种作为黑盒对抗攻击强基线的进化策略
密码学与安全
2021-07-14 v1 计算机视觉与模式识别
机器学习
摘要
近期研究表明,白盒对抗攻击可轻易应用于最先进的图像分类器。然而,现实场景更接近于黑盒对抗条件,缺乏透明度,且通常对查询预算施加自然的硬性约束。我们提出 \textbf{EvoBA},一种基于极其简单的进化搜索策略的黑盒对抗攻击。\textbf{EvoBA} 查询高效,最小化 对抗扰动,且不需要任何形式的训练。\textbf{EvoBA} 通过与其他更复杂的先进黑盒攻击(如 \textbf{AutoZOOM})一致的结果展现了效率与效力。它比简单而强大的基线黑盒攻击 \textbf{SimBA} 查询更高效,且复杂度水平相近。因此,我们将其既作为黑盒对抗攻击的一个新的强基线,也作为快速且通用的工具,用于实证洞察图像分类器相对于 对抗扰动的鲁棒性。目前已存在快速可靠的 黑盒攻击(如 \textbf{SimBA})和 黑盒攻击(如 \textbf{DeepSearch})。我们提出 \textbf{EvoBA} 作为一种查询高效的 黑盒对抗攻击,其与上述方法一起可作为评估图像分类器实证鲁棒性的通用工具。此类方法的主要优势在于运行快速、查询高效,且可轻松集成到图像分类器开发流程中。尽管我们的攻击最小化 对抗扰动,我们也报告了 ,并注意到我们与最先进的 黑盒攻击 \textbf{AutoZOOM} 及 强基线 \textbf{SimBA} 相比具有优势。
引用
@article{arxiv.2107.05754,
title = {EvoBA: An Evolution Strategy as a Strong Baseline forBlack-Box Adversarial Attacks},
author = {Andrei Ilie and Marius Popescu and Alin Stefanescu},
journal= {arXiv preprint arXiv:2107.05754},
year = {2021}
}