利用端到端光学反向传播训练神经网络
光学
2025-02-07 v1 机器学习
摘要
光学是面向机器学习下一代计算硬件的一条令人振奋的路径，有望在计算速度和能效上带来数个数量级的提升。然而，要发挥光学神经网络的全部能力，不仅推理计算，训练也必须以光学方式实现。训练神经网络的主要算法是反向传播，其中计算顺序与推理的信息流相反。虽然在数字计算机中直截了当，光学实现反向传播迄今仍难以捉摸，特别是由于实现非线性激活函数的光学元件存在相互冲突的要求。在这项工作中，我们首次以惊人简单且通用的方案应对这一挑战。可饱和吸收体被用作激活单元，所需特性通过泵浦-探测过程实现，其中前向传播信号作为泵浦、后向作为探测。我们的方法可适配多种模拟平台、材料与网络结构，并展示了构建完全依赖模拟光学过程进行训练与推理任务的神经网络的可能性。
引用
@article{arxiv.2308.05226,
title = {Training neural networks with end-to-end optical backpropagation},
author = {James Spall and Xianxin Guo and A. I. Lvovsky},
journal= {arXiv preprint arXiv:2308.05226},
year = {2025}
}