基于双向阈值开关（OTS）的高可扩展随机神经元及其在受限玻尔兹曼机（RBM）中的应用
应用物理
2020-10-22 v1 机器学习
摘要
受限玻尔兹曼机（RBM）作为一种生成式随机人工神经网络，因可实现一种新颖的节能机器学习（ML）技术而日益受到关注。对于RBM的硬件实现，一个必不可少的构建模块是可靠的随机二元神经元器件，其按照玻尔兹曼分布产生随机脉冲。在此，我们提出一种基于双向阈值开关（OTS）的高可扩展随机神经元器件，其利用陷阱的随机发射与俘获过程作为随机性的来源。其开关概率很好地由玻尔兹曼分布描述，并可通过工作参数进行控制。作为真随机数发生器（TRNG）的候选者，其在美国国家标准与技术研究院（NIST）统计测试套件（特别出版物800-22）的16项测试中通过了15项。此外，使用由所提器件构成的模拟RBM网络展示了手写数字（MNIST）的识别任务，最高识别准确率达86.07%。进而，利用受噪声污染的图像成功展示了图像重建，得到去除噪声的图像。这些结果表明了基于OTS的随机神经元器件在RBM系统中应用的前景特性。
引用
@article{arxiv.2010.10986,
title = {Highly-scalable stochastic neuron based on Ovonic Threshold Switch (OTS) and its applications in Restricted Boltzmann Machine (RBM)},
author = {Seong-il Im and Hyejin Lee and Jaesang Lee and Jae-Seung Jeong and Joon Young Kwak and Keunsu Kim and Jeong Ho Cho and Hyunsu Ju and Suyoun Lee},
journal= {arXiv preprint arXiv:2010.10986},
year = {2020}
}