用于训练封装型深层光子神经网络的非对称估计器
机器学习
2025-03-13 v4 光学
摘要
光子神经网络(PNNs)具有快速传播和高带宽特性,旨在以更高的效率和更低的成本实现可复制的神经网络加速。然而,PNN的训练已知具有挑战性,其中器件间和系统间的变异导致对PNN的认识不完善。尽管基于反向传播(BP)的训练算法因其对鲁棒性、通用性和快速梯度收敛而为行业标准,但现有的PNN-BP方法高度依赖准确的中间状态提取或深层PNN(DPNNs)的大量计算资源。截断的光子信号传播和计算开销瓶颈限制了DPNN的运行效率并增加了系统构建成本。本文引入asymmetrical training(AsyT)方法,专为封装型DPNNs设计,信号在整个结构中保持模拟光子域。AsyT为DPNNs提供轻量级解决方案,具备最少读出、快速高效以及最小系统占地。AsyT的操作便捷、具备容错性和广泛适用性,旨在促进因制造变异和不完美控制而出现的PNN加速在更广泛的应用场景中的落地。我们通过集成光子芯片演示了AsyT,用于封装型DPNN,能够可重复地从针对不同网络结构和数据集的 in-silico BP中显著提升性能。
引用
@article{arxiv.2405.18458,
title = {Asymmetrical estimator for training encapsulated deep photonic neural networks},
author = {Yizhi Wang and Minjia Chen and Chunhui Yao and Jie Ma and Ting Yan and Richard Penty and Qixiang Cheng},
journal= {arXiv preprint arXiv:2405.18458},
year = {2025}
}
备注
23 pages, 6 figures