一种高效实现复杂突触响应函数的数字神经形态架构及其在液体状态机中的应用
神经元与认知
2017-04-28 v1 神经与进化计算
机器学习
摘要
神经网络中的信息表示为神经元之间带权重的连接,即突触。这带来了一个问题,因为神经网络的主要计算瓶颈在于输入与神经网络权重相乘时的向量-矩阵乘法。传统处理架构不太适合模拟神经网络,常常需要大量的能量和时间。此外,生物神经网络中的突触不是二进制连接,而是随着神经递质释放并在神经元间扩散而表现出非线性响应函数。受神经科学原理启发,我们提出了一种数字神经形态架构——尖峰时序处理单元(Spiking Temporal Processing Unit, STPU),能够在无需额外硬件组件的情况下建模任意复杂突触响应函数。我们考虑采用带时间编码信息的尖峰神经元范式,而非大多数神经网络中使用的非尖峰速率编码神经元。在此范式下,我们考察了应用于语音识别的液体状态机,并展示了具有时间动力学的液体状态机如何映射到STPU——证明了STPU在实现神经算法上的灵活性与高效性。
引用
@article{arxiv.1704.08306,
title = {A Digital Neuromorphic Architecture Efficiently Facilitating Complex Synaptic Response Functions Applied to Liquid State Machines},
author = {Michael R. Smith and Aaron J. Hill and Kristofor D. Carlson and Craig M. Vineyard and Jonathon Donaldson and David R. Follett and Pamela L. Follett and John H. Naegle and Conrad D. James and James B. Aimone},
journal= {arXiv preprint arXiv:1704.08306},
year = {2017}
}
备注
8 pages, 4 Figures, Preprint of 2017 IJCNN