面向神经形态硬件的脉冲神经网络热感知编译
神经与进化计算
2020-12-21 v2 分布式、并行与集群计算
新兴技术
摘要
神经形态计算的硬件实现可显著提升基于脉冲神经网络(SNNs)的机器学习任务的性能与能效,使这些硬件平台特别适用于嵌入式系统及其他能量受限环境。我们观察到,当通过通常由非易失性存储器(NVM)构成的突触单元传播脉冲时,硬件交叉阵列中较长的位线与字线会产生显著的电流变化。这种电流变化会在硬件的每个交叉阵列内形成热梯度,其具体形态取决于机器学习工作负载以及该工作负载的神经元与突触到这些交叉阵列的映射方式。\mr{该热梯度在缩放工艺节点下变得显著,并增加了硬件的泄漏功耗,导致能耗上升。}我们提出了一种将基于SNN的机器学习工作负载的神经元与突触映射到神经形态硬件的新技术。我们的新颖贡献有两点。首先,我们为神经形态硬件中的交叉阵列建立了融合工作负载依赖性的详细热模型,其中每个基于NVM的突触单元的温度是依据其相邻单元的热贡献计算得到的。其次,我们利用爬山启发式算法将该热模型纳入基于SNN工作负载的神经元与突触映射过程中。其目标是降低交叉阵列中的热梯度。我们使用10个机器学习工作负载在业界领先的神经形态硬件上评估了我们的神经元与突触映射技术。结果表明,与面向性能的SNN映射技术相比,硬件中每个交叉阵列的平均温度平均降低11.4K,从而使泄漏功耗降低52%(总能耗降低11%)。
引用
@article{arxiv.2010.04773,
title = {Thermal-Aware Compilation of Spiking Neural Networks to Neuromorphic Hardware},
author = {Twisha Titirsha and Anup Das},
journal= {arXiv preprint arXiv:2010.04773},
year = {2020}
}
备注
Accepted for publication at LCPC 2020