通过故障感知阈值电压优化提升脉冲神经网络的可靠性
神经与进化计算
2023-01-16 v1 新兴技术
摘要
脉冲神经网络通过适配神经形态硬件，在计算机视觉领域取得了突破。然而，神经形态硬件缺乏并行性，因此限制了边缘设备上 SNN 的吞吐量和硬件加速。为了解决这个问题，最近提出了许多脉动阵列 SNN 加速器，但其可靠性仍然是一个主要问题。在本文中，我们首先广泛分析了永久性故障对脉动阵列 SNN 的影响。然后，我们提出了一种新颖的故障缓解方法，即在再训练中进行故障感知阈值电压优化。FalVolt 在再训练中优化每层的阈值电压，以在存在故障的情况下实现接近基线的分类准确率。为了证明我们提出的缓解方法的有效性，我们在带有固定故障的 256x256 脉动阵列 SNN 上对静态（即 MNIST）和神经形态数据集（即 N-MNIST 和 DVS Gesture）进行了分类。我们凭经验表明，即使在极低的故障率（低至 0.012%）下，脉动阵列 SNN 的分类准确率也会显著下降。我们提出的 FalVolt 缓解方法提升了脉动阵列 SNN 的性能，使其能够在高达 60% 的故障率下运行，且分类准确率下降微乎其微（低至 0.1%）。我们的结果表明，与人工神经网络（ANN）中常用的其他最先进技术（如故障感知剪枝和没有阈值电压优化的再训练）相比，FalVolt 的速度提高了 2 倍。
引用
@article{arxiv.2301.05266,
title = {Improving Reliability of Spiking Neural Networks through Fault Aware Threshold Voltage Optimization},
author = {Ayesha Siddique and Khaza Anuarul Hoque},
journal= {arXiv preprint arXiv:2301.05266},
year = {2023}
}
备注
Accepted full paper in DATE 2023