利用资格迹学习精确脉冲时序
神经与进化计算
2020-06-18 v1 机器学习
摘要
脉冲神经网络（SNNs）领域的近期研究表明，SNN的循环变体即长短期SNN（LSNNs）可像LSTM一样通过误差梯度进行有效训练。其底层学习方法（e-prop）基于对漏积分发放（LIF）神经元资格迹的形式化。本文指出，所提方法无法完全展开脉冲时序依赖可塑性（STDP）。因此，这在原则上限制了SNN的固有优势，即发展依赖于精确相对脉冲时序的编码的潜力。我们表明，当为稍复杂的脉冲神经元模型（此处以Izhikevich模型为例）推导时，STDP感知的突触梯度会在e-prop的资格方程中自然涌现。我们还提出了LIF模型的一个简单扩展，其提供类似的梯度。在一个简单实验中，我们证明了STDP感知的LIF神经元可从基于e-prop的梯度信号中学习精确的脉冲时序。
引用
@article{arxiv.2006.09988,
title = {Learning Precise Spike Timings with Eligibility Traces},
author = {Manuel Traub and Martin V. Butz and R. Harald Baayen and Sebastian Otte},
journal= {arXiv preprint arXiv:2006.09988},
year = {2020}
}