通过智能比特翻转对算法保护 DNN 的隐秘攻击
密码学与安全
2021-12-28 v1
摘要
近来，深度神经网络（DNNs）已部署于自动驾驶汽车和医疗设备等安全关键系统。不久后，DNNs 的脆弱性被隐秘对抗样本揭示：通过向原始输入添加微小扰动，可使 DNN 产生错误分类输出。为提升 DNNs 鲁棒性，此后引入了一些基于算法的对抗样本对策。本文提出一种针对受保护 DNNs 的新型隐秘攻击以规避算法防御：通过智能翻转 DNN 权重中的比特，我们可保留干净输入的分类精度，但即使有算法对策也能使精心构造的输入被误分类。为以隐秘方式欺骗受保护 DNNs，我们引入一种新方法高效找到其最脆弱权重并在硬件中翻转这些比特。实验结果表明，我们可成功对最先进的算法保护 DNNs 实施该隐秘攻击。
引用
@article{arxiv.2112.13162,
title = {Stealthy Attack on Algorithmic-Protected DNNs via Smart Bit Flipping},
author = {Behnam Ghavami and Seyd Movi and Zhenman Fang and Lesley Shannon},
journal= {arXiv preprint arXiv:2112.13162},
year = {2021}
}
备注
Accepted for the 23rd International Symposium on Quality Electronic Design (ISQED'22)