Art-Attack：基于进化艺术的黑盒对抗攻击
密码学与安全
2022-03-10 v1 机器学习
神经与进化计算
摘要
深度神经网络（DNN）已在许多任务中取得最先进性能，但已显示出对对抗样本所生成攻击的极度脆弱性。许多工作采用白盒攻击，假设可完全访问目标模型（包括其架构与梯度）。更现实的假设是黑盒场景，其中攻击者仅能通过查询某些输入并观察其预测类别概率来访问目标模型。与大多数利用替代模型或梯度估计的流行黑盒攻击不同，本文提出一种无梯度攻击，利用进化艺术概念生成对抗样本，迭代演化一组重叠透明形状。为评估所提方法的有效性，我们以目标方式攻击在CIFAR-10数据集上训练的三个最先进图像分类模型。我们进行了参数研究，概述形状数量与类型对所提攻击性能的影响。与最先进黑盒攻击相比，我们的攻击在生成对抗样本上更有效，并在所有三个基线模型上实现了更高的攻击成功率。
引用
@article{arxiv.2203.04405,
title = {Art-Attack: Black-Box Adversarial Attack via Evolutionary Art},
author = {Phoenix Williams and Ke Li},
journal= {arXiv preprint arXiv:2203.04405},
year = {2022}
}