光环路：利用光子协处理器实现神经网络的可扩展训练
机器学习
2020-06-04 v2 新兴技术
图像与视频处理
机器学习
摘要
随着神经网络变得更大、更复杂且更依赖数据，训练成本正急剧上升。尤其在需要终身学习的场景（如推荐系统或自动驾驶汽车）中，这可能很快变得不可持续。在本研究中，我们提出了首个能够加速数字实现神经网络训练阶段的光学协处理器。我们采用直接反馈对齐作为反向传播的替代方案，并光学地执行误差投影步骤。借助协处理器提供的光学随机投影，我们展示了其在训练用于手写数字识别的神经网络中的应用。
引用
@article{arxiv.2006.01475,
title = {Light-in-the-loop: using a photonics co-processor for scalable training of neural networks},
author = {Julien Launay and Iacopo Poli and Kilian Müller and Igor Carron and Laurent Daudet and Florent Krzakala and Sylvain Gigan},
journal= {arXiv preprint arXiv:2006.01475},
year = {2020}
}
备注
2 pages, 1 figure