基于对抗特征基因组的 data-driven 对抗样本识别框架
计算机视觉与模式识别
2022-01-27 v3
摘要
对抗样本对卷积神经网络(CNNs)构成了诸多安全威胁。大多数防御算法通过寻找原始图像与对抗样本之间的差异来抵御这些威胁。然而，所发现的差异不包含关于类别的特征，因此这些防御算法只能检测对抗样本而无法恢复正确标签。对此，我们提出对抗特征基因组(AFG)，一种同时包含差异与类别相关特征的新型数据。该方法受一种观测现象启发，即对抗特征可分离性(AFS)：原始图像与对抗样本的特征图之间的差异随网络层加深而变大。在此基础上，我们进一步开发了可检测对抗样本并能恢复正确标签的对抗样本识别框架。在实验中，AFG对各种攻击场景下对抗样本的检测与分类准确率超过90.01%。据我们所知，我们的方法是首个同时关注攻击检测与恢复的方法。AFG为提升CNN鲁棒性提供了数据驱动的新视角。源代码见 https://github.com/GeoX-Lab/Adv_Fea_Genome。
引用
@article{arxiv.1812.10085,
title = {A Data-driven Adversarial Examples Recognition Framework via Adversarial Feature Genome},
author = {Li Chen and Qi Li and Weiye Chen and Zeyu Wang and Haifeng Li},
journal= {arXiv preprint arXiv:1812.10085},
year = {2022}
}
备注
27 pages, 9 figures, 13 tables