用于光子神经网络的非线性幺正电路
光学
2024-12-06 v1
摘要
光子学已释放出深度学习能效加速的潜力。大多数光子深度学习方法都致力于使用光子平台忠实地复现传统深度学习架构,分别通过电光转换、光学非线性和信号编码材料实现线性光学矩阵计算与非线性激活。本文提出非线性幺正光子电路的概念,以实现深度神经网络所必需的线性与非线性表达能力的集成。我们设计了一种用于二维非线性幺正操作的构建模块,其特点是具有非保守内积的保范映射,这使得构建高维非线性幺正电路成为可能。利用深度非线性幺正电路,我们展示了轨迹长度的指数增长和输出空间的近乎完全覆盖,这两者对深度学习都至关重要。结合用于非凸函数回归的神经进化学习示例,我们的结果为具有高表达能力推理和稳定训练的光子神经网络铺平了道路。
引用
@article{arxiv.2412.04112,
title = {Nonlinear unitary circuits for photonic neural networks},
author = {Sunkyu Yu and Xianji Piao and Namkyoo Park},
journal= {arXiv preprint arXiv:2412.04112},
year = {2024}
}
备注
33 pages, 7 figures