QuSecNets：基于量化的深度神经网络对抗攻击防御机制
机器学习
2020-05-15 v2 密码学与安全
机器学习
摘要
对抗样本已成为机器学习算法、尤其是卷积神经网络（CNNs）的重大威胁。本文提出两种基于量化的防御机制——恒定量化（CQ）与可训练量化（TQ），以提升 CNNs 对对抗样本的鲁棒性。CQ 基于“固定”量化级数对输入像素强度进行量化，而在 TQ 中，量化级数“在训练阶段迭代学习”，从而提供更强的防御机制。我们将所提技术应用于来自开源 \textit{Cleverhans} 库的未防御 CNNs，以抵御不同最先进对抗攻击。实验结果表明，在 \textit{Cleverhans} 库中常用的 CNN（Conv2D(64, 8x8) - Conv2D(128, 6x6) - Conv2D(128, 5x5) - Dense(10) - Softmax()）上，由 MNIST 与 CIFAR-10 数据集生成的扰动图像分类准确率分别提升了 50%–96% 和 10%–50%。
引用
@article{arxiv.1811.01437,
title = {QuSecNets: Quantization-based Defense Mechanism for Securing Deep Neural Network against Adversarial Attacks},
author = {Faiq Khalid and Hassan Ali and Hammad Tariq and Muhammad Abdullah Hanif and Semeen Rehman and Rehan Ahmed and Muhammad Shafique},
journal= {arXiv preprint arXiv:1811.01437},
year = {2020}
}