准周期事件驱动系统的随机解释
神经与进化计算
2015-12-10 v1 新兴技术
神经元与认知
摘要
许多用于机器学习和作为生物神经网络模型的网络利用随机神经元或类神经元单元。我们表明,通过利用失配模拟振荡器的准周期行为来近似神经元的随机激活函数,可以在硅芯片上实现随机人工神经元。我们用有限状态机(FSM)表示神经元,这些有限状态机使用数字事件进行通信,且其状态转移由事件触发。每个神经元的事件生成时间由该神经元/FSM内部的模拟振荡器控制,且不同FSM中振荡器的频率不可通约。我们表明,在这种准周期系统内,FSM的转移图可解释为马尔可夫链的转移图,并且我们通过使用不同的FSM,可以获得不同随机激活函数的近似。我们研究了此种确定性系统的随机解释的质量,并利用该系统实现受限玻尔兹曼机并从中采样。我们在定制硅芯片上实现了该准周期事件系统,并表明该芯片的行为可用于紧密近似随机采样任务。
引用
@article{arxiv.1512.02930,
title = {Stochastic Interpretation of Quasi-periodic Event-based Systems},
author = {Hesham Mostafa and Giacomo Indiveri},
journal= {arXiv preprint arXiv:1512.02930},
year = {2015}
}