CRAFT：面向基于新兴存储器的深度神经网络的关键性感知容错增强技术
硬件体系结构
2023-02-09 v1 神经与进化计算
摘要
深度神经网络（DNNs）已成为计算机视觉和自然语言处理应用中最有效的编程范式。随着 DNNs 的快速发展，用于在边缘设备上部署基于 DNN 应用的高效硬件架构已被广泛研究。新兴非易失性存储器（NVMs）凭借更好的可扩展性、非易失性和良好的读取性能，被认为是部署 DNNs 的有力候选。然而，尽管前景广阔，新兴 NVMs 常受困于卡死故障（stuck-at faults）等可靠性问题，这些问题降低了芯片良率/存储器寿命并严重影响 DNNs 的精度。卡死单元可读但无法重编程，因此 NVMs 中的卡死故障是否导致错误取决于待存储的数据。通过减少卡死故障引起的错误数量，可增强基于 DNN 系统的可靠性。本文提出 CRAFT，即关键性感知容错增强技术（Criticality-Aware Fault-Tolerance Enhancement Techniques），用于在存在卡死故障的情况下增强基于 NVM 的 DNNs 的可靠性。采用数据块重映射技术以降低卡死故障对 DNNs 精度的影响。此外，通过对多种 DNNs 进行位级关键性分析，识别出会显著影响精度的网络参数中的关键位位置。基于此分析，我们提出一种编码方法，当关键位中存在更多（由卡死故障引起的）错误时，该方法有效地将关键位位置与非关键位位置进行交换。
引用
@article{arxiv.2302.03862,
title = {CRAFT: Criticality-Aware Fault-Tolerance Enhancement Techniques for Emerging Memories-Based Deep Neural Networks},
author = {Thai-Hoang Nguyen and Muhammad Imran and Jaehyuk Choi and Joon-Sung Yang},
journal= {arXiv preprint arXiv:2302.03862},
year = {2023}
}
备注
to be published in IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems