电荷陷阱闪存 (CTF) 非理想编程时间对深度神经网络的系统级影响

利用电阻处理单元 (RPU) 架构进行深度神经网络 (DNN) 学习具有能源效率，因为它利用专用的神经形态硬件和用于存内计算的权重更新随机计算。电荷陷阱闪存 (CTF) 器件可以实现基于 RPU 的 DNN 权重更新。然而，先前的工作表明，基于 CTF 的 RPU 中的权重更新 ($V_T$) 受到 CTF 非理想编程时间的影响。非理想编程时间受 CTF 的两个因素影响：首先是输入脉冲数 (N) 或脉冲宽度 (pw) 的影响，其次是用于权重更新随机计算的连续更新脉冲之间的间隔 ($t_{gap}$)。因此，必须研究这种非理想编程时间对神经网络训练模拟的影响。在本研究中，首先，我们提出了一种脉冲序列设计补偿技术，以减少由 CTF 非理想编程时间和网络随机方差引起的总误差。其次，我们在 MNIST 和 Fashion-MNIST 数据集上模拟了具有 CTF 非理想编程时间的基于 RPU 的 DNN。我们发现，对于较大的 N (~1000)，学习性能接近理想（软件级）训练水平，因此受用于实现基于 RPU 的权重更新的 $t_{gap}$ 选择影响不大。然而，对于较小的 N (<500)，学习性能取决于脉冲的 $T_{gap}$。最后，我们还进行了消融研究以隔离改善学习性能的因果因素。我们得出结论，权重更新中较低的噪声水平可能是提高 DNN 学习性能的最显著因素。因此，我们的研究试图补偿由非理想编程时间引起的误差，并为基于 CTF 的 RPU 标准化脉冲长度 (N) 和脉冲间隔 ($t_{gap}$) 规格，以实现准确的系统级片上训练。