SONIC:一种基于硅光子学的稀疏神经网络推理加速器,用于能效深度学习
机器学习
2021-09-10 v1 硬件体系结构
神经与进化计算
摘要
稀疏神经网络可以在保持推理准确率的同时提供紧凑的模型大小,从而极大地促进神经网络在资源受限平台上的部署。由于参数矩阵的稀疏性,稀疏神经网络原则上可用于加速器架构中,以改善能效和延迟。然而,要在实践中实现这些改进,需要探索感知稀疏性的软硬件协同设计。在本文中,我们提出了一种新颖的基于硅光子学的稀疏神经网络推理加速器,称为 SONIC。我们的实验分析表明,与最先进的稀疏电子神经网络加速器相比,SONIC 可以实现高达 5.8 倍的性能功耗比提升和 8.4 倍的每比特能耗降低;与已知最佳的 光子神经网络加速器相比,可实现高达 13.8 倍的性能功耗比提升和 27.6 倍的每比特能耗降低。
引用
@article{arxiv.2109.04459,
title = {SONIC: A Sparse Neural Network Inference Accelerator with Silicon Photonics for Energy-Efficient Deep Learning},
author = {Febin Sunny and Mahdi Nikdast and Sudeep Pasricha},
journal= {arXiv preprint arXiv:2109.04459},
year = {2021}
}