通过对抗模型级联加固深度神经网络
机器学习
2018-11-06 v4 密码学与安全
机器学习
摘要
深度神经网络(DNNs)易受 adversary 精心构造的恶意输入攻击，从而产生错误输出。关于保护神经网络抵御对抗样本的工作在MNIST等简单数据集上取得了高经验鲁棒性。然而，这些技术在CIFAR-10和SVHN等复杂数据集上经验测试时表现不足。此外，现有技术旨在针对特定攻击，无法跨攻击泛化。我们提出对抗模型级联(AMC)以应对上述不足。我们的方法顺序训练一系列模型，其中每个模型被优化为对多种攻击的混合具有鲁棒性。最终产生一个对广泛攻击（即FGSM、Elastic、虚拟对抗扰动和Madry）安全的单一模型。平均而言，AMC将模型针对各种攻击的经验鲁棒性同时显著提升（MNIST提升6.225%，SVHN提升5.075%，CIFAR10提升2.65%）。同时，模型在非对抗输入上的性能可与最先进模型相媲美。
引用
@article{arxiv.1802.01448,
title = {Hardening Deep Neural Networks via Adversarial Model Cascades},
author = {Deepak Vijaykeerthy and Anshuman Suri and Sameep Mehta and Ponnurangam Kumaraguru},
journal= {arXiv preprint arXiv:1802.01448},
year = {2018}
}