量化神经网络的对抗鲁棒性研究
机器学习
2022-01-24 v1 密码学与安全
摘要
缩减神经网络模型规模是将人工智能从以云为中心转向以边缘为中心（即设备上）计算范式的关键一步。这种从云到边缘的转移受多种因素驱动，包括降低延迟、提升安全性，以及增强AI算法在多个应用领域（如交通、医疗、国防等）中的灵活性。然而，目前尚不清楚模型压缩技术会如何影响AI算法针对对抗攻击的鲁棒性。本文探讨了量化（最常见的压缩技术之一）对神经网络对抗鲁棒性的影响。具体而言，我们研究并建模了量化神经网络在对抗扰动图像上的准确率。结果表明，对于简单的基于梯度的攻击，量化可能提升或削弱对抗鲁棒性，取决于攻击强度。
引用
@article{arxiv.2105.00227,
title = {On the Adversarial Robustness of Quantized Neural Networks},
author = {Micah Gorsline and James Smith and Cory Merkel},
journal= {arXiv preprint arXiv:2105.00227},
year = {2022}
}