针对量化网络的改进基于梯度的对抗攻击
计算机视觉与模式识别
2021-12-30 v2 机器学习
摘要
神经网络量化因量化网络上按位运算带来的内存高效消耗与更快计算而日益流行。尽管它们展现出优异的泛化能力，其鲁棒性性质却未被充分理解。在本工作中，我们系统研究了量化网络针对基于梯度的对抗攻击的鲁棒性，并证明这些量化模型存在梯度消失问题且表现出虚假的鲁棒性。通过将梯度消失归因于训练网络中前向-后向信号传播不良，我们引入一种简单的温度缩放方法来缓解该问题，同时保持决策边界不变。尽管只是对现有基于梯度的对抗攻击的简单修改，在多个图像分类数据集与多种网络架构上的实验表明，我们的温度缩放攻击在量化网络上获得了近乎完美的成功率，同时在对抗训练模型以及浮点网络上优于原始攻击。代码见 https://github.com/kartikgupta-at-anu/attack-bnn。
引用
@article{arxiv.2003.13511,
title = {Improved Gradient based Adversarial Attacks for Quantized Networks},
author = {Kartik Gupta and Thalaiyasingam Ajanthan},
journal= {arXiv preprint arXiv:2003.13511},
year = {2021}
}
备注
AAAI 2022