基于微环的非相干光子GEMM加速器对比分析
硬件体系结构
2024-02-20 v3 新兴技术
机器学习
神经与进化计算
摘要
已提出多种基于微环谐振器(MRR)的模拟光子架构,用于加速深度神经网络中的通用矩阵-矩阵乘法(GEMM),并具有卓越的吞吐量和能效。为实现GEMM功能,这些基于MRR的架构通常以五种不同方式操控光信号:(i)分割(复制)多个光信号以实现特定的扇出,(ii)聚合(复用)多个光信号以实现特定的扇入,(iii)调制光信号以将输入值印刻到模拟信号幅度上,(iv)对调制后的光信号进行加权以实现模拟输入-权重乘法,(v)对光信号进行求和。基于MRR的GEMM加速器以任意顺序执行前四种信号操控方式,忽略了这些操控顺序对其性能的可能影响。在本文中,我们对具有三种不同操控顺序的加速器组织进行了详细分析:(1) 调制-聚合-分割-加权(MASW),(2) 聚合-分割-调制-加权(ASMW),以及 (3) 分割-调制-加权-聚合(SMWA)。我们表明,这些组织以不同量级影响串扰噪声和光信号损耗,这使得这些组织在电路级别具有不同级别的处理并行度,并在系统级别具有不同量级的吞吐量和能效-面积效率。我们对四个CNN模型的评估结果显示,平均而言,与ASMW和MASW组织相比,SMWA组织的吞吐量、能效和面积-能效分别最高可达4.4倍、5倍和5.2倍。
引用
@article{arxiv.2402.03149,
title = {A Comparative Analysis of Microrings Based Incoherent Photonic GEMM Accelerators},
author = {Sairam Sri Vatsavai and Venkata Sai Praneeth Karempudi and Oluwaseun Adewunmi Alo and Ishan Thakkar},
journal= {arXiv preprint arXiv:2402.03149},
year = {2024}
}
备注
To Appear at ISQED 2024