通过智能突触映射提升神经形态系统的推理寿命
神经与进化计算
2021-06-18 v1 硬件体系结构
摘要
阻变随机存取存储器(RRAM)等非易失性存储器(NVM)被用于神经形态系统中以实现高密度、低功耗的模拟突触权重。遗憾的是,RRAM 单元在读取其内容一定次数后可能切换其状态。这种行为挑战了在神经形态系统上实现机器学习推理的完整性及一次编程多次读取理念,影响服务质量(QoS)。升高的温度与频繁使用会显著缩短 RRAM 单元在必须重编程前可被可靠读取的次数。我们提出一种架构方案以延长基于 RRAM 的神经形态系统的读取耐久度。我们做出两项关键贡献。首先,我们将 RRAM 单元的读取耐久度公式化为所编程突触权重及其在机器学习工作负载中激活次数的函数。其次,我们提出一种融合该耐久度公式的智能工作负载映射策略,将机器学习模型的突触放置到硬件的 RRAM 单元上。其目标是延长推理寿命,即定义为在训练权重需在系统 RRAM 单元上重编程前,模型可用于生成输出(推理)的次数。我们在一个基于 RRAM 的神经形态系统的周期精确模拟器上以机器学习工作负载评估了我们的架构方案。结果显示推理寿命显著提升,且仅带来极小性能影响。
引用
@article{arxiv.2106.09104,
title = {Improving Inference Lifetime of Neuromorphic Systems via Intelligent Synapse Mapping},
author = {Shihao Song and Twisha Titirsha and Anup Das},
journal= {arXiv preprint arXiv:2106.09104},
year = {2021}
}
备注
Accepted for publication at ASAP 2021