面向量化神经网络的纯整数算术认证鲁棒性
机器学习
2021-08-24 v1 密码学与安全
计算机视觉与模式识别
摘要
对抗数据样本已引起机器学习与安全领域的显著关注。应对对抗样本的一条研究路线是通过随机平滑的认证鲁棒性，其可提供理论鲁棒性保证。然而，该机制通常在推理中使用浮点算术进行计算，并需要大内存占用与极高的计算成本。这些防御模型无法在边缘设备上高效运行，也不能部署于纯整数逻辑单元（如 Turing Tensor Cores 或纯整数 ARM 处理器）上。为克服这些挑战，我们提出一种带量化的整数随机平滑方法，将任意分类器转换为一个新的平滑分类器，该分类器使用纯整数算术实现针对对抗扰动的认证鲁棒性。我们证明了所提方法在 L2 范数下的紧鲁棒性保证。我们展示了在两个不同数据集（CIFAR-10 和 Caltech-101）上，我们的方法在通用 CPU 和移动设备上可获得与浮点算术认证鲁棒方法相当的准确率以及 4倍~5倍加速。
引用
@article{arxiv.2108.09413,
title = {Integer-arithmetic-only Certified Robustness for Quantized Neural Networks},
author = {Haowen Lin and Jian Lou and Li Xiong and Cyrus Shahabi},
journal= {arXiv preprint arXiv:2108.09413},
year = {2021}
}