基于自旋电子学随机计算实现的量化人工神经网络
介观与纳米尺度物理
2025-08-27 v1
摘要
人工神经网络 (ANN) 的推理涉及矩阵向量乘法，需要大量的乘法累加运算，导致能耗高和器件占用面大。随机计算 (SC) 提供了一种资源消耗较低的 ANN 实现方式，可通过产生随机数的随机磁场 tunnel 结 (s-MTJ) 实现，其在上下状态之间切换的能垒被设计为较小。虽然 s-MTJs 先前已用于实现 SC-ANN，但这些研究仅限于采用连续可变 (模拟) 权重的体系结构。我们研究使用量化的突触权重和输出进行矩阵向量乘法的 SC。我们表明，一种通过实验获取的 s-MTJ 比特流实现的量化 SC-ANN，可有效降低 SC 中延迟和能耗，同时基本保持准确性。我们实现了 5 和 11 个离散量化状态的量化，以及 SC 配置的随机比特流长度为 100 到 500 位，用于一个和三个隐藏层的神经网络。对 MNIST 数据集进行训练和推理，分别使用和不使用 SC。使用 SC 的训练在所有情况下都提供了更好的准确性。对于最短的 100 位比特流，一个隐藏层的最高准确率为 92%，三个隐藏层的准确率超过 96%。该系统使用 400 位随机比特流的三个隐藏层实现了最高的 96.82% 准确率，并显示在不使用量化的类似 s-MTJ 基 ANN 架构中实现神经元激活延迟降低了 9 倍，能耗降低 2.6 倍。
关键词
引用
@article{arxiv.2504.06414,
title = {Quantized Artificial Neural Networks Implemented with Spintronic Stochastic Computing},
author = {Saadi Sabyasachi and Walid Al Misba and Yixin Shao and Pedram Khalili Amiri and Jayasimha Atulasimha},
journal= {arXiv preprint arXiv:2504.06414},
year = {2025}
}