基于LIF神经元的脉冲深度网络
机器学习
2015-10-30 v1 神经与进化计算
摘要
我们使用泄漏积分发放(leaky integrate-and-fire, LIF)神经元训练脉冲深度网络,并在CIFAR-10和MNIST数据集上取得了脉冲网络的最先进结果。这表明,具有生物合理性的脉冲LIF神经元可以集成到深度网络中,并且能与其他脉冲模型(例如积分发放(integrate-and-fire))表现相当。我们通过软化LIF响应函数使其导数保持有界,并通过向网络注入噪声进行训练,以对脉冲引入的变异性提供鲁棒性,从而取得了这一结果。我们的方法具有通用性,可应用于其他神经元类型,包括现代神经形态硬件上使用的那些。我们的工作为现代图像分类模型带来了更多的生物真实性,希望这些模型能够揭示大脑如何完成这一困难任务。它还提供了训练深度网络以在神经形态硬件上运行的新方法,旨在实现机器人应用中的快速、低功耗图像分类。
引用
@article{arxiv.1510.08829,
title = {Spiking Deep Networks with LIF Neurons},
author = {Eric Hunsberger and Chris Eliasmith},
journal= {arXiv preprint arXiv:1510.08829},
year = {2015}
}