面向光子神经形态加速器的非负同构神经网络
新兴技术
2023-10-03 v1 人工智能
机器学习
摘要
神经形态光子加速器正日益流行，因为它们能显著提升计算速度与能效，达到每次 MAC 飞焦级效率。然而，在此类平台上部署现有深度学习（DL）模型并非易事，因为大量光子神经网络架构依赖非相干装置与功率加法运算方案，无法原生表示负量。这导致额外的硬件复杂性，增加成本并降低能效。为克服此问题，我们可以训练非负神经网络，并潜在地利用非相干神经形态光子的全部能力。然而，由于训练困难（近期证据亦表明），现有方法无法达到其常规对应模型的同等精度。为此，我们引入一种方法论，以获得满足神经形态硬件要求的常规神经网络的非负同构等价物，克服上述局限。此外，我们还引入一种保号优化方法，能够以非负方式训练此类同构网络。
引用
@article{arxiv.2310.01084,
title = {Non-negative isomorphic neural networks for photonic neuromorphic accelerators},
author = {Manos Kirtas and Nikolaos Passalis and Nikolaos Pleros and Anastasios Tefas},
journal= {arXiv preprint arXiv:2310.01084},
year = {2023}
}