光子神经网络与光学赋能的深度学习基础
光学
2023-12-04 v1 新兴技术
摘要
近期由 AI 与深度神经网络（DNN）推动的计算需求爆发式增长，正引发对一种能够克服传统电子计算架构所施加的不可逾越壁垒的新型计算范式的需求。在硅集成平台上实现的光子神经网络（PNN）作为赋予神经网络硬件潜力的候选方案脱颖而出，其通过利用光子学的独特原语——即能效、THz 带宽与低延迟——提供了高能效与超快计算的潜力。迄今为止，若干演示已揭示 PNN 在以无与伦比的速度与能耗指标执行线性和非线性神经网络运算方面的巨大潜力。然而，要将此潜力转化为深度学习应用中的切实现实，需要深入理解 PNN 在所有组成架构、技术与训练方面的基本原理、需求与挑战。在本教程中，我们首先回顾 DNN 的原理及其基本构建模块，并分析在光子硬件上进行计算所需的关键数学运算。随后，我们通过直观的数学分析研究模拟光子电路中比特精度与能效的相互依赖关系，讨论 PNN 的机遇与挑战。接着，给出 PNN 架构、权重技术与激活函数的性能概览，总结其在速度、可扩展性与功耗方面的影响。最后，我们提供光学赋能的神经网络训练框架的整体概览，该框架将光子构建模块的物理特性纳入训练过程，以提升神经网络分类精度并有效将神经形态光子硬件提升至高性能深度学习计算环境。
引用
@article{arxiv.2312.00037,
title = {Photonic Neural Networks and Optics-informed Deep Learning Fundamentals},
author = {A. Tsakyridis and M. Moralis-Pegios and G. Giamougiannis and M. Kirtas and N. Passalis and A. Tefas and N. Pleros},
journal= {arXiv preprint arXiv:2312.00037},
year = {2023}
}