通过海绵投毒对设备端神经网络实施能耗-延迟攻击
密码学与安全
2023-05-12 v2 人工智能
硬件体系结构
摘要
近年来，设备端深度学习作为开发面向移动设备的经济型深度学习应用的一种手段受到关注。然而，设备端模型受限于有限的能量和计算资源。与此同时，一种称为海绵投毒（sponge poisoning）的投毒攻击已被提出。该攻击通过向模型输入投毒样本以增加推理过程中的能耗。由于先前工作聚焦于服务器端硬件加速器，本文中将海绵投毒攻击扩展到设备端场景，以评估移动设备处理器的脆弱性。我们提出一个设备端海绵投毒攻击流水线，模拟流式与持续推理场景，以弥补设备端设置中的知识空白。我们利用处理器和设备端网络进行的专属实验分析表明，海绵投毒攻击可有效污染带有内置加速器的现代处理器。我们分析了海绵投毒算法中不同因素的影响，并强调需要改进防御机制以防止此类针对设备端深度学习应用的攻击。
引用
@article{arxiv.2305.03888,
title = {Energy-Latency Attacks to On-Device Neural Networks via Sponge Poisoning},
author = {Zijian Wang and Shuo Huang and Yujin Huang and Helei Cui},
journal= {arXiv preprint arXiv:2305.03888},
year = {2023}
}
备注
Accepted to AsiaCCS Workshop on Secure and Trustworthy Deep Learning Systems (SecTL 2023)