神经形态推理硬件中读取干扰的缓解方法研究
神经与进化计算
2022-01-28 v1 硬件体系结构
摘要
非易失性存储器(NVM)单元被用于神经形态硬件中以存储模型参数，这些参数被编程为电阻状态。NVM存在读取干扰问题，即在推理过程中单元被重复访问时，已编程的电阻状态会发生漂移。电阻漂移会降低推理精度。为此，有必要周期性地重新编程模型参数（一种高开销操作）。我们研究了NVM单元的读取干扰失效。分析表明，其既强烈依赖于模型特征（如突触激活与关键性），也依赖于推理期间读取电阻状态所用的电压。我们提出了一种系统软件框架，以将此类依赖性纳入神经形态硬件NVM单元的模型参数编程中。该框架包含一个凸优化公式，旨在将具有更多激活且关键（即对精度影响大）的突触权重，映射到推理期间承受较低电压的NVM单元上。由此，我们延长了两次连续模型参数重编程之间的时间间隔。我们在神经形态硬件模拟器上用多种新兴推理模型评估了该系统软件，显示出系统开销的显著降低。
引用
@article{arxiv.2201.11527,
title = {On the Mitigation of Read Disturbances in Neuromorphic Inference Hardware},
author = {Ankita Paul and Shihao Song and Twisha Titirsha and Anup Das},
journal= {arXiv preprint arXiv:2201.11527},
year = {2022}
}
备注
Accepted for publications in IEEE Design and Test