迈向片上贝叶斯神经形态学习
神经与进化计算
2020-05-11 v1 机器学习
机器学习
摘要
如果边缘设备要被部署到其决策可能产生严重财务、政治或公共卫生后果的关键应用中，它们将需要一种方式来发出信号，表明它们不确定如何对环境做出反应。例如，一架迷失的送货无人机如果对确切的送货方式感到困惑，它可以返回配送中心或联系客户，而不是采取“最可能”正确的行动。这一问题在医疗或军事应用中更为突出。然而，神经形态计算算法必须解决的脑现实时间信用分配问题十分困难。权重在基于反向传播的学习中扮演的双重角色——决定网络如何对输入和反馈做出反应——需要被解耦。e-prop 1 是一种很有前景的学习算法，它通过广播对齐（一种在反馈期间用随机权重替换网络权重的技术）和累积局部信息来解决这个问题。我们研究了在何种条件下贝叶斯损失项可以用类似的方式表达，并提出了一种同样仅用局部信息即可计算的算法，因此在硬件上实现起来并不更困难。该算法在一个存储-回忆问题上进行了展示，这表明它能够学习在随时间推移做出的决策上的良好不确定性。
引用
@article{arxiv.2005.04165,
title = {Towards On-Chip Bayesian Neuromorphic Learning},
author = {Nathan Wycoff and Prasanna Balaprakash and Fangfang Xia},
journal= {arXiv preprint arXiv:2005.04165},
year = {2020}
}