利用紧凑卷积提升网络对抗攻击的鲁棒性
机器学习
2018-03-26 v2 密码学与安全
机器学习
摘要
尽管卷积神经网络（CNNs）在目标分类和人脸验证等任务上已超越人类水平，但它们很容易被对抗攻击所欺骗。这些攻击在输入图像上添加微小扰动，导致网络对样本误分类。本文聚焦于通过紧凑特征学习来中和对抗攻击。具体而言，我们表明在封闭且有界的空间中学习特征可提升网络的鲁棒性。我们探究了 L2-Softmax 损失的效果，该损失强制所学特征的紧凑性，从而增强对对抗扰动的鲁棒性。此外，我们提出紧凑卷积（compact convolution），一种新颖的卷积方法，将其纳入常规 CNNs 后可提升其鲁棒性。紧凑卷积在每一层都确保特征的紧凑性，使它们有界且彼此接近。大量实验表明，紧凑卷积网络（CCNs）能够中和多种类型的攻击，并且在防御对抗攻击方面优于现有方法，且与 CNNs 相比不带来任何额外的训练开销。
引用
@article{arxiv.1712.00699,
title = {Improving Network Robustness against Adversarial Attacks with Compact Convolution},
author = {Rajeev Ranjan and Swami Sankaranarayanan and Carlos D. Castillo and Rama Chellappa},
journal= {arXiv preprint arXiv:1712.00699},
year = {2018}
}