利用双阈值与增强方案构建精确高效的深度脉冲神经网络
神经与进化计算
2021-02-05 v1 机器学习
摘要
脉冲神经网络（SNNs）被认为是克服人工神经网络（ANNs）所面临的高功耗等当前挑战的潜在候选者，然而在实用任务的识别精度方面二者之间仍存在差距。近来引入了一种转换策略，通过将训练好的 ANN 映射为 SNN 来弥合这一差距。然而，尚不清楚所获得的 SNN 在多大程度上能同时受益于 ANN 的精度优势与基于脉冲的计算范式的高效率。本文提出两种新的转换方法，即 TerMapping 和 AugMapping。TerMapping 是典型阈值平衡方法结合双阈值方案的直接扩展，而 AugMapping 额外引入了一种新的增强脉冲方案，该方案使用脉冲系数来携带在一个时间步内发生的典型全有或全无脉冲的数量。我们基于 MNIST、Fashion-MNIST 和 CIFAR10 数据集检验了方法的性能。结果表明，所提出的双阈值方案能有效提升转换后 SNN 的精度。更重要的是，与其他最先进的方法相比，所提出的 AugMapping 更利于构建精确、快速且高效的深度 SNN。因此，我们的研究为进一步整合 ANN 中的先进技术以提升 SNN 性能提供了新途径，这对基于脉冲的神经形态计算的应用发展具有重要意义。
引用
@article{arxiv.2005.03231,
title = {Constructing Accurate and Efficient Deep Spiking Neural Networks with Double-threshold and Augmented Schemes},
author = {Qiang Yu and Chenxiang Ma and Shiming Song and Gaoyan Zhang and Jianwu Dang and Kay Chen Tan},
journal= {arXiv preprint arXiv:2005.03231},
year = {2021}
}
备注
13 pages