通过尖峰时序依赖权重推断克服权重传输问题
神经元与认知
2021-08-12 v4 机器学习
摘要
我们针对权重传输问题提出一种解决方案,该问题质疑反向传播算法的生物学合理性。我们的方法基于对漏积分-发放神经元(近似)动力学的理论分析推导而来。我们表明,在脉冲神经网络模型的突触权重推断中,仅利用尖峰时序便优于现有生物学合理方法。此外,我们提出的方法更为灵活,适用于任意脉冲神经元模型,在实现所需参数上较为精简,且能以最小计算开销在线部署。这些特性连同其生物学合理性,使其成为单突触处权重推断的一种极具吸引力的机制。
引用
@article{arxiv.2003.03988,
title = {Overcoming the Weight Transport Problem via Spike-Timing-Dependent Weight Inference},
author = {Nasir Ahmad and Luca Ambrogioni and Marcel A. J. van Gerven},
journal= {arXiv preprint arXiv:2003.03988},
year = {2021}
}
备注
20 pages, 6 figures