基于群进化算法的神经网络黑盒攻击
机器学习
2024-03-13 v1 机器学习
摘要
神经网络在机器学习领域扮演着日益重要的角色，并被广泛应用于社会的诸多场景中。遗憾的是，神经网络易遭受为其生成的对抗样本攻击。然而，大多数生成方法要么假设攻击者拥有神经网络的完整知识，要么受限于被攻击模型的类型。本文提出一种基于群进化算法生成神经网络黑盒攻击的新方法。得益于进化算法在技术与理论特性上的进步，我们的方法具有有效性、黑盒攻击、通用性与随机性的优势。实验结果表明，MNIST 图像与 CIFAR-10 图像均可被扰动，并以平均 100% 的概率成功生成黑盒攻击。此外，所提攻击在蒸馏神经网络上以近 100% 的概率成功，且能抵抗防御性蒸馏。实验结果还表明，人工智能算法的鲁棒性与模型及数据集的复杂度相关。另外，我们发现对抗样本在某种程度上复现了神经网络模型所学样本数据的特征。
引用
@article{arxiv.1901.09892,
title = {A Black-box Attack on Neural Networks Based on Swarm Evolutionary Algorithm},
author = {Xiaolei Liu and Yuheng Luo and Xiaosong Zhang and Qingxin Zhu},
journal= {arXiv preprint arXiv:1901.09892},
year = {2024}
}