POBA-GA：基于遗传算法的扰动优化黑盒对抗攻击
密码学与安全
2019-06-10 v1 机器学习
神经与进化计算
信号处理
摘要
大多数深度学习模型易受对抗攻击。人们设计了多种对抗攻击以评估模型的鲁棒性并开发防御模型。目前，对抗攻击多针对自身目标模型并采用自身评价指标。与白盒攻击相比，大多数黑盒对抗攻击算法无法达到预期的成功率。本文针对不同的对抗攻击方法提出了综合评价指标，并提出了一种基于遗传算法的扰动优化黑盒对抗攻击方法（POBA-GA），以实现可与白盒相媲美的攻击性能。通过初始化、选择、交叉和变异等进化操作演化出近似最优对抗样本。适应度函数被专门设计用于从攻击能力和扰动控制两方面评估样本个体。在进化过程中提出种群多样性策略以保证获得近似最优扰动。通过综合实验验证了POBA-GA的性能。仿真与应用结果均证明，我们的方法在攻击能力和扰动控制方面优于当前最先进的黑盒攻击方法。
引用
@article{arxiv.1906.03181,
title = {POBA-GA: Perturbation Optimized Black-Box Adversarial Attacks via Genetic Algorithm},
author = {Jinyin Chen and Mengmeng Su and Shijing Shen and Hui Xiong and Haibin Zheng},
journal= {arXiv preprint arXiv:1906.03181},
year = {2019}
}