Hu-Fu：针对神经网络的软硬件协同攻击框架
密码学与安全
2018-12-13 v2 计算机视觉与模式识别
摘要
近年来，深度学习（DL），尤其是卷积神经网络（CNN），发展迅速并被应用于许多任务，如图像分类、人脸识别、图像分割和行人检测。由于其卓越的性能，基于 DL 的模型在许多领域有广泛应用，其中一些领域对安全性要求极高，例如智能监控和自动驾驶。由于云计算的延迟和隐私问题，嵌入式加速器在这些安全关键领域很受欢迎。然而，由于加速器和部署工具（或神经网络模型）通常由第三方公司提供，在加速器和神经网络模型中插入硬件/软件木马可能会损害嵌入式 DL 系统的鲁棒性。幸运的是，插入硬件木马只能实现不灵活的攻击，这意味着硬件木马可以轻易使整个系统崩溃或交换两个输出，但无法使 CNN 将未知图片识别为目标。虽然插入软件木马具有更大的攻击自由度，但通常需要篡改输入图像，这对攻击者来说并不容易。因此，在本文中，我们提出了一种软硬件协同攻击框架，用于注入隐藏的神经网络木马，该木马作为后门工作，无需操纵输入图像，且适用于不同场景。我们在图像分类和人脸识别任务上测试了我们的攻击框架，在 CIFAR10 和 YouTube Faces 上分别获得了 92.6% 和 100% 的攻击成功率，同时在正常模式下保持与未受攻击模型几乎相同的准确率。此外，我们展示了一个具体的攻击场景，其中人脸识别系统受到攻击并给出特定的错误答案。
引用
@article{arxiv.1805.05098,
title = {Hu-Fu: Hardware and Software Collaborative Attack Framework against Neural Networks},
author = {Wenshuo Li and Jincheng Yu and Xuefei Ning and Pengjun Wang and Qi Wei and Yu Wang and Huazhong Yang},
journal= {arXiv preprint arXiv:1805.05098},
year = {2018}
}
备注
6 pages, 8 figures, 5 tables, accepted to ISVLSI 2018