压缩还是不压缩：理解对抗攻击与神经网络压缩之间的相互作用
密码学与安全
2020-04-17 v2 机器学习
摘要
随着深度神经网络（DNN）的广泛使用，剪枝和量化模型在边缘设备上变得无处不在；此类压缩 DNN 因降低计算需求而广受欢迎。同时，最近的研究表明，对抗样本能有效导致 DNN 错误分类。因此，我们研究了对抗样本在未压缩和压缩 DNN 之间的可迁移性程度。我们发现对抗样本在剪枝和量化模型中均保持可迁移性。对于剪枝，从重度剪枝模型生成的对抗样本在未压缩模型上仍然有效。对于量化，我们发现对抗样本的可迁移性对整数精度高度敏感。
引用
@article{arxiv.1810.00208,
title = {To compress or not to compress: Understanding the Interactions between Adversarial Attacks and Neural Network Compression},
author = {Yiren Zhao and Ilia Shumailov and Robert Mullins and Ross Anderson},
journal= {arXiv preprint arXiv:1810.00208},
year = {2020}
}
备注
Presented at SysML 2019