tinySNN：面向内存与能耗高效的脉冲神经网络
神经与进化计算
2022-06-20 v1 人工智能
硬件体系结构
机器学习
摘要
较大的脉冲神经网络（SNN）模型通常更受青睐，因为它们能提供更高的精度。然而，在受资源与能耗约束的嵌入式平台上使用此类模型是低效的。为此，我们提出tinySNN框架，在训练与推理阶段优化SNN处理的内存与能耗需求，同时保持高精度。该目标通过减少SNN操作、提升学习质量、量化SNN参数以及选择合适的SNN模型来实现。此外，我们的tinySNN量化不同的SNN参数（即权重与神经元参数）以最大化压缩率，同时探索量化方案、精度级别与舍入方案的不同组合，以找到提供可接受精度的模型。实验结果表明，与基线网络相比，我们的tinySNN在精度无损的情况下显著减少了SNN的内存占用与能耗。因此，我们的tinySNN有效地压缩给定SNN模型，以内存与能耗高效的方式实现高精度，从而支持在受资源与能耗约束的嵌入式应用中部署SNN。
引用
@article{arxiv.2206.08656,
title = {tinySNN: Towards Memory- and Energy-Efficient Spiking Neural Networks},
author = {Rachmad Vidya Wicaksana Putra and Muhammad Shafique},
journal= {arXiv preprint arXiv:2206.08656},
year = {2022}
}
备注
9 figures