当单粒子翻转遭遇深度神经网络：观测、探索与补救
机器学习
2019-09-12 v1 密码学与安全
机器学习
摘要
深度神经网络已在各种感知任务中证明了其潜力，因而成为安全敏感系统中解释与数据处理的一个诱人选择。然而，安全敏感系统不仅要求高感知性能，还要求在各种环境下的设计鲁棒性。与以往从软件层面研究网络鲁棒性的工作不同，我们从硬件角度研究了单粒子翻转（SEU）引起的参数扰动（SIPP）对神经网络的影响。我们系统地定义了SEU的故障模型，并给出对SIPP的敏感性定义，作为网络鲁棒性的度量。我们由此能够解析地探索网络的弱点，并总结SIPP对浮点参数中不同类型比特、同一网络内层间鲁棒性以及网络深度影响的关键发现。基于这些发现，我们提出两种保护DNN免受SIPP影响的补救方案，可将ResNet的精度下降从28%缓解至0.27%，而每个参数仅带来0.24位SRAM面积开销。
引用
@article{arxiv.1909.04697,
title = {When Single Event Upset Meets Deep Neural Networks: Observations, Explorations, and Remedies},
author = {Zheyu Yan and Yiyu Shi and Wang Liao and Masanori Hashimoto and Xichuan Zhou and Cheng Zhuo},
journal= {arXiv preprint arXiv:1909.04697},
year = {2019}
}
备注
7 pages, 8 figures