脑编程对对抗攻击具有免疫性：基于符号学习实现准确且鲁棒的图像分类
计算机视觉与模式识别
2022-04-06 v1
摘要
近年来，深度卷积神经网络（DCNN）易受对抗攻击（AA）的安全隐患引发关注：对输入图像做几乎为人眼不可察觉的微小修改即可使其预测不可信。因此，在开发新分类器时，除准确分数外还需对对抗样本具备鲁棒性。本文中，我们对AA在艺术媒介分类这一复杂问题上的影响进行 comparative study，该问题需对精细艺术品集合的特征做精细分析以分类。我们测试了计算机视觉中一种主流的词袋方法、四种最先进的DCNN模型（AlexNet、VGG、ResNet、ResNet101）以及脑编程（BP）算法。本研究使用准确率分析各算法性能，并利用对抗样本与干净图像间的准确率之比衡量鲁棒性。此外，我们对各分类器预测置信度做统计分析以佐证结果。我们确认使用快速梯度符号法计算的对抗样本时BP预测变化低于2%。同时，在多重像素攻击下，BP在七类中有四类预测无变化，其余类预测最大误差为4%。最后，BP在使用对抗补丁时亦有四类无变化，剩余三类变化为1%。此外，统计分析显示，在各实验中BP对每对干净与扰动图像的预测置信度无显著差异。这些结果证明了BP相对于DCNN与手工特征方法对对抗样本的鲁棒性，而后两者在艺术媒介分类上的性能受所提扰动影响。
引用
@article{arxiv.2103.01359,
title = {Brain Programming is Immune to Adversarial Attacks: Towards Accurate and Robust Image Classification using Symbolic Learning},
author = {Gerardo Ibarra-Vazquez and Gustavo Olague and Mariana Chan-Ley and Cesar Puente and Carlos Soubervielle-Montalvo},
journal= {arXiv preprint arXiv:2103.01359},
year = {2022}
}
备注
58 pages, 9 figures, 13 tables, 81 references