通过空间分解实现脉冲神经网络的资源感知映射
神经与进化计算
2020-09-22 v1 硬件体系结构
新兴技术
摘要
随着模型复杂度的增长，将基于脉冲神经网络（SNN）的应用映射到基于瓦片的神经形态硬件正变得愈发具有挑战性。这是因为一个瓦片（即一个交叉阵列）上的突触存储资源，每个后突触神经元只能容纳固定数量的前突触连接。对于具有大量每神经元前突触连接的复杂 SNN 模型，某些连接可能需要在训练后被剪枝以适配瓦片资源，从而导致模型质量（如准确率）的损失。在本工作中，我们提出一种新颖的展开技术，将具有许多前突触神经元的神经元函数分解为一系列同构神经单元，其中每个神经单元是一个具有两个前突触连接的函数计算节点。该空间分解技术显著提高了交叉阵列利用率并保留了所有前突触连接，从而避免了由连接剪枝带来的模型质量损失。我们将所提技术集成到现有的 SNN 映射框架中，并在最先进的 DYNAP-SE 神经形态硬件上使用机器学习应用对其进行评估。我们的结果表明，硬件上的交叉阵列需求平均降低 60%，突触利用率提高 9 倍，浪费能量降低 62%，且模型质量提升介于 0.8% 与 4.6% 之间。
引用
@article{arxiv.2009.09298,
title = {Enabling Resource-Aware Mapping of Spiking Neural Networks via Spatial Decomposition},
author = {Adarsha Balaji and Shihao Song and Anup Das and Jeffrey Krichmar and Nikil Dutt and James Shackleford and Nagarajan Kandasamy and Francky Catthoor},
journal= {arXiv preprint arXiv:2009.09298},
year = {2020}
}
备注
Accepted for publication of IEEE Embedded Systems Letters