以光速运行的 ChatGPT:基于光频梳的单片光电线性代数加速器
系统与控制
2023-11-22 v2 新兴技术
系统与控制
摘要
本文提出采用先进单片硅光子集成电路制造能力,实现一种片上系统光电线性代数加速器,其具有基于光频梳的宽带非相干光电探测以及连续矩阵-矩阵乘法的高维运算特征,以在计算密度和能效上实现大幅跃升;并通过整体协同设计方法对光子-电子片上转换、集成与校准带来的功耗/面积开销进行实际考量,以支持大语言模型(LLM)及其他新兴应用中基于注意力头机制的深度学习神经网络。
引用
@article{arxiv.2311.11224,
title = {ChatGPT at the Speed of Light: Optical Comb-Based Monolithic Photonic-Electronic Linear-Algebra Accelerators},
author = {Tzu-Chien Hsueh and Yeshaiahu Fainman and Bill Lin},
journal= {arXiv preprint arXiv:2311.11224},
year = {2023}
}
备注
17 pages, 9 figures, 2 tables, 19 equations