受生物学启发的循环神经网中替代随时间反向传播的学习方法
神经与进化计算
2019-02-22 v2
摘要
大脑中脉冲神经元的循环连接网络如何通过学习获得强大的信息处理能力一直是个谜。这种理解的缺乏与缺乏既功能强大又可由已知生物机制实现的脉冲神经元循环网络(RSNNs)学习算法相关。由于RSNNs同时是神经形态硬件中脑启发电路实现的主要目标，这种算法洞察的缺乏也阻碍了该领域的技术进步。机器学习中循环神经网络学习的黄金标准是随时间反向传播(BPTT)，其针对给定损失函数实现随机梯度下降。但BPTT从生物学角度看不现实，因为它要求误差信号在时间与空间中向后传输，即从突触后神经元到突触前神经元。我们展示了在计算期间将局部可用信息与合适的自顶向下学习信号实时在线融合，可提供对BPTT的极高能力近似。对于误差信息仅在网络计算后期出现的任务，我们通过突触的前向资格迹(eligibility traces)丰富局部可用信息，这些资格迹可轻易以在线方式计算。由此产生的循环神经网络新一代学习算法为大脑中的网络学习提供了可实验检验的新理解。此外，这些算法为神经形态硬件中RSNNs的片上训练提供了高效方法。
引用
@article{arxiv.1901.09049,
title = {Biologically inspired alternatives to backpropagation through time for learning in recurrent neural nets},
author = {Guillaume Bellec and Franz Scherr and Elias Hajek and Darjan Salaj and Robert Legenstein and Wolfgang Maass},
journal= {arXiv preprint arXiv:1901.09049},
year = {2019}
}
备注
We changed in this version 2 of the paper the name of the new learning algorithms to e-prop, corrected minor errors, added details -- especially for resulting new rules for synaptic plasticity, edited the notation, and included new results for TIMIT