现实边缘神经网络实现通过物理侧信道泄露私有交互
密码学与安全
2025-01-27 v1
摘要
神经网络已成为诸多实际应用中基本组件，其实现常被硬件加速并集成到各类实际物理设备中。用户与硬件加速神经网络的交互通常被视为隐私敏感信息。尽管已作出大量努力揭示算法层面的漏洞并提升隐私保护，包括成员推断攻击、差分隐私和联邦学习，但神经网络最终在物理设备上实现和部署，当前研究对实现层面的隐私保护关注相对较少。本文引入一种通用物理侧信道攻击方法ScaAR，通过利用物理设备的电磁(EM)辐射来提取用户与神经网络交互的数据。该攻击方法实现无关，无需对硬件或软件实现具有详细知识，得益于深度学习基于侧信道分析(DLSCA)的能力。实验结果表明，Through the EM side channel, ScaAR can effectively extract the class label of user interactions with neural classifiers, including inputs and outputs, on the AMD-Xilinx MPSoC ZCU104 FPGA and Raspberry Pi 3 B.此外，本文首次对边缘大型语言模型(LLM)实现进行侧信道分析，表明EM侧信道会泄露交互数据，不同LLM token可从EM轨迹中被区分。
引用
@article{arxiv.2501.14512,
title = {Real-world Edge Neural Network Implementations Leak Private Interactions Through Physical Side Channel},
author = {Zhuoran Liu and Senna van Hoek and Péter Horváth and Dirk Lauret and Xiaoyun Xu and Lejla Batina},
journal= {arXiv preprint arXiv:2501.14512},
year = {2025}
}