中文

SNRA:一种用于深度信念网络电路内训练与评估的自旋电子神经形态可重构阵列

新兴技术 2019-01-09 v1 硬件体系结构 机器学习 机器学习

摘要

本文开发了一种自旋电子神经形态可重构阵列(SNRA),以在受限玻尔兹曼机(RBM)的训练和评估阶段融合高能效的概率计算与现场可编程的确定性计算。首先,利用概率自旋逻辑器件开发 RBM 实现,并据此构建具有一至三个隐藏层、每层 10 至 800 个神经元的深度信念网络(DBN)。其次,我们为对比散度(CD)算法设计了一种硬件实现,采用四态有限状态机,能够在 N+3 个时钟内完成无监督训练,其中 N 表示每个 RBM 中的神经元数量。我们使用 ModelSim 仿真验证了所提 CD 硬件实现的功能。我们将所开发的用于各种 DBN 拓扑的测试/训练控制电路的 Verilog HDL 实现进行综合,其中最大 RBM 维度导致的资源利用率介于 51 至 2421 个查找表(LUT)之间。接下来,我们利用基于自旋霍尔效应(SHE)-磁隧道结(MTJ)的非易失性 LUT 电路替代基于静态随机存取存储器(SRAM)的 LUT 来存储确定性逻辑配置,从而形成可重构架构。最后,我们将所提 SNRA 与基于 SRAM 的可配置架构在面积和由用于实现 CD 与评估模式的 LUT 引起的功耗方面进行比较。所得结果表明,动态与静态功耗总和降低超过 80%,同时器件数量至少减少 50%。

关键词

引用

@article{arxiv.1901.02415,
  title  = {SNRA: A Spintronic Neuromorphic Reconfigurable Array for In-Circuit Training and Evaluation of Deep Belief Networks},
  author = {Ramtin Zand and Ronald F. DeMara},
  journal= {arXiv preprint arXiv:1901.02415},
  year   = {2019}
}

备注

8 pages