留心你的心：边缘计算中针对动态深度神经网络的隐蔽后门攻击
密码学与安全
2022-12-23 v1 机器学习
摘要
将现成深度神经网络（DNN）模型转换为动态多出口架构，可通过在边缘计算场景（如边缘设备与云服务器）中分片与分发大型DNN模型来实现推理与传输效率。本文提出一种专门针对动态多出口DNN模型的新型后门攻击。特别地，我们通过毒化一个DNN模型的浅隐藏层来注入后门，目标并非该原始DNN模型，而仅是其动态部署的多出口架构。我们的后门原始模型在性能上表现正常，即使使用正确触发器也无法被激活。然而，当受害者获取该模型并在其部署中将其转换为动态多出口架构时，后门将被激活。我们进行了大量实验，在三种结构（ResNet-56、VGG-16与MobileNet）与四个数据集（CIFAR-10、SVHN、GTSRB与Tiny-ImageNet）上证明攻击的有效性，且我们的后门可隐蔽规避多种最先进的后门检测或去除方法。
引用
@article{arxiv.2212.11751,
title = {Mind Your Heart: Stealthy Backdoor Attack on Dynamic Deep Neural Network in Edge Computing},
author = {Tian Dong and Ziyuan Zhang and Han Qiu and Tianwei Zhang and Hewu Li and Terry Wang},
journal= {arXiv preprint arXiv:2212.11751},
year = {2022}
}
备注
Accepted to IEEE INFOCOM 2023