enpheeph：面向脉冲与压缩深度神经网络的故障注入框架
摘要
深度神经网络（DNNs）的研究聚焦于提升实际部署的性能和精度，催生了新模型（如脉冲神经网络（SNNs））以及优化技术（例如用于压缩网络的量化和剪枝）。然而，这些创新模型和优化技术的部署引入了可能的可靠性问题，而可靠性是 DNN 广泛用于自动驾驶等安全关键应用的支柱。此外，工艺节点微缩伴随着同时发生多重故障的相关风险，这一可能性在现有最先进的弹性分析中未被涉及。为更好地分析 DNN 的可靠性，我们提出 enpheeph，一个面向脉冲与压缩 DNN 的故障注入框架。enpheeph 框架能在专用硬件设备（如 GPU）上优化执行，同时提供完全可定制性以研究不同故障模型，模拟各种可靠性约束与用例。因此，故障可在 SNN 以及压缩网络上执行，对底层代码的改动极小乃至无改动，这是其他最先进工具无法做到的。为评估我们的 enpheeph 框架，我们分析了采用不同压缩技术的不同 DNN 和 SNN 模型的弹性。通过注入随机且递增数量的故障，我们表明 DNN 在每参数低至 7 x 10 ^ (-7) 故障率的故障下即可出现精度下降，且精度跌幅高于 40%。执行 enpheeph 时的运行开销在并发执行 100 000 个故障时低于基线执行时间的 20%，至少比最先进框架低 10 倍，使 enpheeph 能面向复杂故障注入场景。我们在 https://github.com/Alexei95/enpheeph 发布了 enpheeph。
引用
@article{arxiv.2208.00328,
title = {enpheeph: A Fault Injection Framework for Spiking and Compressed Deep Neural Networks},
author = {Alessio Colucci and Andreas Steininger and Muhammad Shafique},
journal= {arXiv preprint arXiv:2208.00328},
year = {2023}
}
备注
Source code: https://github.com/Alexei95/enpheeph To appear at 2022 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), October, 2022