嵌入式神经网络上的故障注入：单条指令跳过的影响
密码学与安全
2023-09-01 v1 人工智能
摘要
随着神经网络模型的大规模集成与应用，尤其在关键嵌入式系统中，对其可靠性保障的安全评估正成为迫切需求。更具体地，部署在嵌入式平台(如 32 位微控制器)上的模型可被攻击者物理访问，因此易受硬件扰动影响。我们展示了首批在 Cortex M4 32 位微控制器平台上嵌入式神经网络模型上应用电磁与激光两种故障注入手段的实验。与大多数致力于改变内部参数或输入值的现有工作不同，我们的目标是模拟并实验证明一种特定故障模型即指令跳过的影响。为此，我们评估了针对神经网络推理控制流的若干修改攻击。我们通过针对典型卷积神经网络模型推理程序中的若干步骤，揭示了完整性威胁，攻击者可能利用这些威胁以不同对抗目标篡改目标模型的预测。
引用
@article{arxiv.2308.16665,
title = {Fault Injection on Embedded Neural Networks: Impact of a Single Instruction Skip},
author = {Clement Gaine and Pierre-Alain Moellic and Olivier Potin and Jean-Max Dutertre},
journal= {arXiv preprint arXiv:2308.16665},
year = {2023}
}
备注
Accepted at DSD 2023 for AHSA Special Session