量化网络之间对抗性攻击可移植性的影响因素
机器学习
2024-05-17 v1 人工智能
摘要
深度神经网络（DNN）已知易受对抗性样本的攻击。此外，这些对抗性样本被发现可从其构建的源网络转移到黑盒目标网络。随着在嵌入式设备上使用深度学习的趋势不断增长，研究对压缩网络上对抗性样本可移植性的转移特性变得尤为重要。本文将量化视为一种网络压缩技术，评估了在源网络和目标网络以不同位宽进行量化时，基于转移的攻击性能。我们通过考虑各种对抗性样本生成算法，探讨了算法特定属性如何影响可移植性。此外，我们更真实地考察了在源网络和目标网络可能在位宽以及其他模型相关属性（如容量和体系结构）上存在差异的情形下的可移植性。我们发现，尽管量化会降低可移植性，但某些攻击类型表现出增强其可移植性的能力。此外，可用于估计单个网络量化版本之间对抗性样本平均可移植性，以估计具有不同容量和体系结构的量化目标网络的可移植性。
引用
@article{arxiv.2405.09598,
title = {Properties that allow or prohibit transferability of adversarial attacks among quantized networks},
author = {Abhishek Shrestha and Jürgen Großmann},
journal= {arXiv preprint arXiv:2405.09598},
year = {2024}
}