通过特征学习提升深度卷积神经网络的鲁棒性

深度卷积神经网络(简称DCNN)模型易受带有小扰动样本的攻击。对抗训练(简称AT)是一种通过数据增强提升DCNN模型鲁棒性的广泛使用的方法。在AT中，DCNN模型使用干净样本和由特定攻击方法生成的对抗样本(简称AE)进行训练，旨在面对未见过的AE时获得防御能力。然而在实践中，训练好的DCNN模型常被新颖攻击方法生成的AE所欺骗。这自然引出一个问题：DCNN模型能否学习到对某些小扰动不敏感的特征，进而无论呈现何种攻击方法都能自我保护。为回答该问题，本文作出初步尝试，提出一个可集成至任意流行骨干网络的浅层二值特征模块(简称SBFM)。SBFM包含两类层，即Sobel层和阈值层。在Sobel层中，有四个并行特征图分别表示水平、垂直和对角边缘特征。在阈值层中，将Sobel层学到的边缘特征转为二值特征，随后与骨干网络学到的特征一起送入全连接层进行分类。我们将SBFM分别集成到VGG16和ResNet34中，并在多个数据集上实验。实验结果表明，在$\epsilon=8/255$的FGSM攻击下，集成SBFM的模型比原始模型平均准确率高出35%；在CIFAR-10和TinyImageNet数据集上，集成SBFM的模型平均可达到75%的分类准确率。本文工作表明通过特征学习增强DCNN模型鲁棒性是很有前景的。