无反向传播光子网络中的单子巴甫洛夫联想学习
光学
2022-08-08 v3 神经与进化计算
应用物理
摘要
一个多世纪前,伊万·P·巴甫洛夫在一项经典实验中展示了狗如何学会将铃声与食物关联,从而使铃声引发唾液分泌。如今,尽管其他学习概念尤其是人工神经网络(ANNs)上的反向传播已蓬勃发展,但巴甫洛夫式联想学习用于人工智能(AI)应用却鲜见。然而,在“常规” ANNs 上使用反向传播方法进行训练,特别是以现代深度神经网络(DNNs)的形式,计算与能耗密集。在此,我们实验演示了一种使用单一(或单子)联想硬件元件的无反向传播学习形式。我们在集成光子平台上利用相变材料与片上级联定向耦合器实现该方式。随后,我们使用单子巴甫洛夫光子硬件开发了扩展电路网络,其提供了一种基于单元件关联且重要的是使用无反向传播架构来处理通用学习任务的独特机器学习框架。我们的方法减轻了常规神经网络方法中学习带来的计算负担,从而提升速度,同时凭借我们的光子实现提供更高带宽。
引用
@article{arxiv.2011.14709,
title = {Monadic Pavlovian associative learning in a backpropagation-free photonic network},
author = {James Y. S. Tan and Zengguang Cheng and Johannes Feldmann and Xuan Li and Nathan Youngblood and Utku E. Ali and C. David Wright and Wolfram H. P. Pernice and Harish Bhaskaran},
journal= {arXiv preprint arXiv:2011.14709},
year = {2022}
}
备注
24 pages, 5 figures