具有三元突触连接的可扩展超导神经元用于超快SNN硬件
超导电性
2025-01-22 v2 新兴技术
神经与进化计算
摘要
提出了一种新颖的高扇入差分超导神经元结构，专为超高性能脉冲神经网络（SNN）加速器设计。利用高扇入神经元结构，我们可以设计具有更多突触连接的SNN加速器，从而增强整体网络能力。所提出的神经元设计基于超导电子学工艺，包含多个超导环路，每个环路有两个约瑟夫森结。这种安排使得每个输入数据分支具有正负电感耦合，支持兴奋性和抑制性突触数据。使用单磁通量子（SFQ）脉冲逻辑风格实现与突触器件和阈值操作的兼容性。该神经元设计连同三元突触连接，构成了基于超导体的SNN推理的基础。为了展示我们设计的能力，我们使用snnTorch（增强PyTorch框架）训练SNN。剪枝后，所展示的SNN推理在MNIST图像上达到了令人印象深刻的96.1%准确率。值得注意的是，该网络表现出8.92 GHz的显著吞吐量，而每次推理仅消耗1.5 nJ，包括冷却至4K的能耗。这些结果凸显了超导电子学在开发高性能、超高能效神经网络加速器架构方面的潜力。
引用
@article{arxiv.2402.16384,
title = {Scalable Superconductor Neuron with Ternary Synaptic Connections for Ultra-Fast SNN Hardware},
author = {Mustafa Altay Karamuftuoglu and Beyza Zeynep Ucpinar and Arash Fayyazi and Sasan Razmkhah and Mehdi Kamal and Massoud Pedram},
journal= {arXiv preprint arXiv:2402.16384},
year = {2025}
}
备注
9 pages, 5 figures, 2 tables