脉冲神经网络的粗尺度表示:通过脉冲的反向传播及其在神经形态硬件上的应用
神经与进化计算
2020-07-14 v1 新兴技术
机器学习
摘要
在这项工作中,我们探索了漏积分发放神经元在等于其绝对不应期的时间尺度上运行的循环表示。我们的粗时间尺度近似是使用在该时间间隔内均匀分布的脉冲到达概率分布函数获得的。这导致了一种离散表示,其展现出与连续模型相同的动力学,从而实现高效的大规模模拟以及通过循环实现的反向传播。我们使用该方法在 Pytorch 中直接探索深度脉冲神经网络的训练,包括卷积、全连接和最大池化层。我们发现,循环模型在训练期间仅使用 4 长脉冲序列即可达到高分类准确率。我们还观察到向漏积分发放神经元连续实现的良好迁移。最后,我们将该方法应用于一些标准控制问题,作为探索使用神经形态芯片进行强化学习的第一步。
引用
@article{arxiv.2007.06176,
title = {Coarse scale representation of spiking neural networks: backpropagation through spikes and application to neuromorphic hardware},
author = {Angel Yanguas-Gil},
journal= {arXiv preprint arXiv:2007.06176},
year = {2020}
}
备注
Paper accepted in ICONS 2020