边缘部署神经网络的攻击与防御综述
密码学与安全
2019-11-28 v1 机器学习
机器学习
摘要
深度神经网络（DNN）工作负载出于延迟、隐私或能耗等原因，正迅速从数据中心迁移到边缘设备。虽然数据中心网络可以使用传统网络安全措施进行保护，但边缘神经网络带来了一系列新的安全挑战。与经典物联网应用不同，边缘神经网络通常计算和内存密集度很高，其执行与数据无关，并且对噪声和故障具有鲁棒性。神经网络模型的开发可能非常昂贵，并可能泄露其训练所用私有数据的信息，因此在分发时需要特别小心。网络的隐藏状态和输出也可用于重建用户输入，可能侵犯用户隐私。此外，神经网络易受对抗攻击，可能导致误分类并破坏输出的完整性。这些特性在保护边缘部署的 DNN 时增加了挑战，需要在安全、私密地将 DNN 部署到边缘时考虑新的考量、威胁模型、优先级和方法。在本工作中，我们涵盖了边缘设备中部署的神经网络的攻击与防御全景，并提供了针对边缘 DNN 的攻击与防御分类法。
引用
@article{arxiv.1911.11932,
title = {Survey of Attacks and Defenses on Edge-Deployed Neural Networks},
author = {Mihailo Isakov and Vijay Gadepally and Karen M. Gettings and Michel A. Kinsy},
journal= {arXiv preprint arXiv:1911.11932},
year = {2019}
}