NxTF:面向英特尔Loihi深度脉冲神经网络的API与编译器
新兴技术
2021-01-13 v1
摘要
脉冲神经网络(SNNs)是一种极具前景的范式,可高效处理事件驱动的时空稀疏数据流。SNNs启发了新型神经形态处理器(如英特尔Loihi)的设计,并能够利用其优势。这些新颖的硬件架构带来了一系列影响固件、编译器和算法开发的约束。为在Loihi上实现快速灵活的SNN算法开发,我们开发了NxTF:一个派生自Keras的编程接口,以及为将深度卷积SNNs映射到多核英特尔Loihi架构而优化的编译器。我们在直接基于脉冲训练的DNNs以及从传统DNNs转换的模型上评估NxTF,处理基于稀疏事件和基于密集帧的数据集。此外,我们评估了编译器在大量核心间分配模型以及利用Loihi权重共享特性压缩模型的有效性。最后,我们与其他架构相比评估了模型精度、能耗和求解时间。该编译器在16块Loihi芯片上对输入尺寸128x128、28层、4M参数的MobileNet模型实现了80%的近最优资源利用率。此外,我们利用现成的MobileNet在神经形态硬件上报告了CIFAR-10数据集的最低错误率8.52%。
引用
@article{arxiv.2101.04261,
title = {NxTF: An API and Compiler for Deep Spiking Neural Networks on Intel Loihi},
author = {Bodo Rueckauer and Connor Bybee and Ralf Goettsche and Yashwardhan Singh and Joyesh Mishra and Andreas Wild},
journal= {arXiv preprint arXiv:2101.04261},
year = {2021}
}