MorphIC:一款 65 nm、738k 突触/mm$^2$ 四核二值权重数字神经形态处理器,具有随机脉冲驱动在线学习
神经与进化计算
2019-07-17 v2 新兴技术
摘要
神经网络加速器领域的近期趋势研究权重量化,以此作为提高硬件设备资源与功耗效率的手段。由于全片上权重存储对于避免片外存储器访问的高能耗是必要的,权重存储的存储缩减需求推动了二值权重的使用,已证明在使用量化感知训练技术时,二值权重在许多应用上的精度下降有限。同时,脉冲神经网络 (SNN) 架构被探索用于在处理稀疏基于事件的数据流时进一步降低功耗,而片上基于脉冲的在线学习在训练阶段受功耗与资源限制的应用中显得是关键特性。然而,设计功耗与面积高效的脉冲神经网络仍需要开发特定技术,以在二值权重上利用片上在线学习而不损害突触密度。本工作中,我们展示了 MorphIC,一款四核二值权重数字神经形态处理器,嵌入了脉冲驱动突触可塑性 (S-SDSP) 学习规则的随机版本以及用于大规模芯片互连的分层路由结构。MorphIC SNN 处理器在 65 nm CMOS 中嵌入了总计 2k 泄漏积分发放 (LIF) 神经元和超过两百万个可塑突触,有效硅面积为 2.86 mm,实现了 738k 突触/mm 的高密度。与先前提出的 SNN 相比,MorphIC 在 MNIST 分类任务上展示了面积-精度权衡的数量级改进,同时在能量-精度权衡上无损失。
引用
@article{arxiv.1904.08513,
title = {MorphIC: A 65-nm 738k-Synapse/mm$^2$ Quad-Core Binary-Weight Digital Neuromorphic Processor with Stochastic Spike-Driven Online Learning},
author = {Charlotte Frenkel and Jean-Didier Legat and David Bol},
journal= {arXiv preprint arXiv:1904.08513},
year = {2019}
}
备注
This document is the paper as accepted for publication in the IEEE Transactions on Biomedical Circuits and Systems journal (2019), the fully-edited paper is available at https://ieeexplore.ieee.org/document/8764001