基于电阻式 RAM 突触的三值神经网络低功耗存内实现
新兴技术
2020-05-06 v1
摘要
利用电阻式随机存取存储器等新兴存储器设计实现低精度神经网络的系统，是降低人工智能能耗的主要方向。例如，多项工作提出了存内架构来实现低功耗二值化神经网络。这些简单的神经网络，其突触权重和神经元激活值取二值，确实可以在视觉任务上接近最先进的性能。在这项工作中，我们重新审视了其中一种架构，其中突触以差分方式实现以减少位错误，并使用预充电读出放大器读取突触权重。基于对混合 130 nm CMOS/RRAM 芯片的实验测量和电路仿真，我们表明相同的存储阵列架构可用于实现三值权重而非二值权重，并且当读出放大器在近阈值区域工作时，这种技术尤其适用。我们还基于 CIFAR-10 图像识别任务的神经网络仿真表明，从二值神经网络转向三值神经网络显著提高了神经网络性能。这些结果突显了 AI 电路功能在低功耗状态下运行时有时可能需要重新审视。
引用
@article{arxiv.2005.01973,
title = {Low Power In-Memory Implementation of Ternary Neural Networks with Resistive RAM-Based Synapse},
author = {Axel Laborieux and Marc Bocquet and Tifenn Hirtzlin and Jacques-Olivier Klein and Liza Herrera Diez and Etienne Nowak and Elisa Vianello and Jean-Michel Portal and Damien Querlioz},
journal= {arXiv preprint arXiv:2005.01973},
year = {2020}
}