AdvFoolGen:为深度分类器制造持续性困扰
计算机视觉与模式识别
2022-05-11 v1
摘要
研究表明深度神经网络易受恶意攻击,其中对抗图像被构造以诱使网络误分类,即便这些图像在人眼中可能对应完全不同的标签。为使深度网络对此类攻击更具鲁棒性,文献中已提出许多防御机制,其中一些对抵御典型攻击颇为有效。本文提出一种称为AdvFoolGen的新型黑盒攻击,它可从与自然图像相同的特征空间生成攻击图像,从而即使在应用了最先进防御机制后仍持续迷惑网络。我们通过与成熟的攻击算法比较,系统评估了我们的模型。实验表明,面对最先进防御技术时,我们的攻击具有有效性与鲁棒性,并通过原理性分析揭示了其生效的潜在原因。因此,AdvFoolGen从新视角有助于理解深度网络的脆弱性,并可能反过来帮助开发和评估新的防御机制。
引用
@article{arxiv.2007.10485,
title = {AdvFoolGen: Creating Persistent Troubles for Deep Classifiers},
author = {Yuzhen Ding and Nupur Thakur and Baoxin Li},
journal= {arXiv preprint arXiv:2007.10485},
year = {2022}
}
备注
11 pages, 5 figures