通过非线性单元实现全光训练神经网络的误差反向传播
新兴技术
2021-03-22 v3 信号处理
光学
摘要
通过非线性神经元进行反向传播是光学神经网络领域的突出挑战，也是全光训练方案的主要概念障碍。每个神经元需要对传播的光学信号表现出方向依赖的响应，且后向响应受前向信号制约，这在光学上极难实现。我们提出一种实用且出奇简单的方案，利用可饱和吸收提供网络非线性。我们发现，训练网络所需的后向传播梯度可在泵浦-探测方案中近似，该方案仅需无源光学元件。仿真表明，利用易于获得的光学深度，即使在具有多个顺序梯度近似的深度网络中，我们的方法在图像分类基准上也能达到与最先进计算网络相当的性能。该方案与主流光学神经网络方案兼容，从而为实现端到端光训练提供了可行路径。
引用
@article{arxiv.1912.12256,
title = {Backpropagation through nonlinear units for all-optical training of neural networks},
author = {Xianxin Guo and Thomas D. Barrett and Zhiming M. Wang and A. I. Lvovsky},
journal= {arXiv preprint arXiv:1912.12256},
year = {2021}
}
备注
Error fixed in Fig.1