基于自适应脉冲循环神经网络的高精度高效时域分类
神经与进化计算
2021-03-24 v1 机器学习
摘要
受生物神经元更细致建模的启发，脉冲神经网络（SNNs）既被研究作为更具生物可解释性且潜在更强大的神经计算模型，也旨在提取生物神经元的能量效率；然而此类网络的性能相比经典人工神经网络（ANNs）仍显不足。在此，我们展示了一种新颖的替代梯度与可调自适应脉冲神经元循环网络相结合，如何在时域中具有挑战性的基准（如语音和手势识别）上取得 SNNs 的最优性能。这也超越了标准经典循环神经网络（RNNs）的性能，并接近最佳现代 ANNs 的水平。由于这些 SNNs 表现出稀疏脉冲，我们表明它们在理论上比性能可比的 RNNs 计算效率高一到三个数量级。总之，这将 SNNs 定位为 AI 硬件实现的一种有吸引力的解决方案。
引用
@article{arxiv.2103.12593,
title = {Accurate and efficient time-domain classification with adaptive spiking recurrent neural networks},
author = {Bojian Yin and Federico Corradi and Sander M. Bohte},
journal= {arXiv preprint arXiv:2103.12593},
year = {2021}
}
备注
11 pages