基于自编码器与遗传算法的语义保持对抗攻击生成
机器学习
2022-08-26 v1 密码学与安全
神经与进化计算
摘要
广泛使用的深度学习模型被发现鲁棒性较差。微小的噪声即可欺骗最先进的模型做出错误预测。尽管存在大量高性能的攻击生成方法，其中大多数直接对原始数据添加扰动并使用 L_p 范数度量；这会破坏数据的主要结构，从而产生无效攻击。本文中，我们提出一种黑盒攻击，其不修改原始数据，而是修改由自编码器提取的数据潜在特征；随后我们在语义空间中度量噪声以保护数据的语义。我们在 MNIST 和 CIFAR-10 数据集上训练自编码器，并使用遗传算法寻找最优对抗扰动。我们的方法在 MNIST 和 CIFAR-10 数据集前 100 个数据上以小于 FGSM 的扰动实现了 100% 的攻击成功率。
引用
@article{arxiv.2208.12230,
title = {Semantic Preserving Adversarial Attack Generation with Autoencoder and Genetic Algorithm},
author = {Xinyi Wang and Simon Yusuf Enoch and Dong Seong Kim},
journal= {arXiv preprint arXiv:2208.12230},
year = {2022}
}
备注
8 pages conference paper, accepted for publication in IEEE GLOBECOM 2022