OplixNet:基于实数到复数数据分配与知识蒸馏的面积高效光学分裂复数网络
系统与控制
2023-12-18 v2 系统与控制
摘要
光神经网络(ONN)具有高速、高吞吐量和低能耗的潜力,已成为加速深度学习任务的有力候选。在传统 ONN 中,光振幅在输入端被调制并在输出端被检测。然而,尽管光相位也能携带用于计算的信息,传统结构中仍将其忽略。为解决此问题,本文提出了一种名为 OplixNet 的框架,通过将输入图像数据调制到光信号的振幅和相位部分来压缩 ONN 的面积。ONN 的输入和输出部分经过重新设计,以充分利用振幅和相位信息。此外,引入了不同 ONN 结构间的相互学习以保持精度。实验结果表明,所提框架在精度处于可接受范围内的前提下,显著减小了 ONN 的面积。例如,在全连接神经网络(FCNN)上面积减少了 75.03%,精度下降 0.33%;在 ResNet-32 上面积减少了 74.88%,精度下降 2.38%。
引用
@article{arxiv.2312.01403,
title = {OplixNet: Towards Area-Efficient Optical Split-Complex Networks with Real-to-Complex Data Assignment and Knowledge Distillation},
author = {Ruidi Qiu and Amro Eldebiky and Grace Li Zhang and Xunzhao Yin and Cheng Zhuo and Ulf Schlichtmann and Bing Li},
journal= {arXiv preprint arXiv:2312.01403},
year = {2023}
}
备注
Accepted by Design Automation and Test in Europe (DATE) 2024