一种推挽层提升卷积神经网络的鲁棒性
计算机视觉与模式识别
2019-01-30 v1 机器学习
摘要
我们提出卷积神经网络(CNNs)中的一种新层,以增强其对输入图像若干类噪声扰动的鲁棒性。我们称之为推挽层,其响应计算为两个半波整流卷积的组合,卷积核极性相反。它基于视觉系统中某些表现出响应抑制现象(称为推挽抑制)的神经元的一种生物学动机非线性模型。我们通过将LeNet-5和WideResNet架构的第一卷积层替换为我们的推挽层来验证方法。我们在MNIST、CIFAR-10和CIFAR-100数据集的非扰动训练图像上训练网络,并在训练过程未见的噪声扰动图像上测试。我们证明,我们的推挽层在保持原始图像分类任务上最先进性能的同时,显著提升了网络对噪声扰动图像分类的鲁棒性。
引用
@article{arxiv.1901.10208,
title = {A Push-Pull Layer Improves Robustness of Convolutional Neural Networks},
author = {Nicola Strisciuglio and Manuel Lopez-Antequera and Nicolai Petkov},
journal= {arXiv preprint arXiv:1901.10208},
year = {2019}
}