Gabor层增强网络鲁棒性
计算机视觉与模式识别
2020-03-31 v2
摘要
我们重新审视将经典视觉概念与深度学习模型相融合的益处。具体而言，我们探究以Gabor层（即滤波器基于可学习Gabor参数的卷积层）替换多种深度架构的首层，对对抗攻击鲁棒性的影响。我们观察到，增强Gabor层的架构相较常规模型获得了一致的鲁棒性提升，并保持了较高的泛化测试性能，尽管这些层带来的参数数量增加可忽略不计。随后我们利用Gabor滤波器的闭式表达推导此类滤波器的Lipschitz常数表达式，并借助该理论结果开发了一种训练期间使用的正则化器以进一步增强网络鲁棒性。我们在多个数据集（MNIST、SVHN、CIFAR10和CIFAR100）上对多种架构（LeNet、AlexNet、VGG16和WideResNet）进行了广泛实验，展示了显著的实证鲁棒性增益。此外，我们通过实验展示了我们的正则化器如何提供一致的鲁棒性改进。
引用
@article{arxiv.1912.05661,
title = {Gabor Layers Enhance Network Robustness},
author = {Juan C. Pérez and Motasem Alfarra and Guillaume Jeanneret and Adel Bibi and Ali Thabet and Bernard Ghanem and Pablo Arbeláez},
journal= {arXiv preprint arXiv:1912.05661},
year = {2020}
}
备注
32 pages, 23 figures, 14 tables