一种全忆阻器深度脉冲神经计算系统：迈向实现低功耗随机大脑的一步
新兴技术
2018-04-17 v3
摘要
深度“模拟人工神经网络”(ANN) 以极高精度处理复杂分类问题。然而，它们依赖海量功耗来进行计算，掩盖了精度优势。另一方面，生物大脑远比此类网络强大，且功耗低数个数量级，提示我们存在某种概念性错配。鉴于生物神经元使用高能效的脉冲序列进行通信且行为非确定性，将这些效应引入深度人工神经网络可推动我们向更真实的神经元迈进几步。本工作中，我们提出如何利用纳米级阻变器件固有的随机性来仿真脉冲神经元的功能，该神经元可纳入深度随机脉冲神经网络 (SNN)。在算法层面，我们提出如何修改训练以将 ANN 转换为 SNN，同时支持这些器件所提供的随机激活函数。我们设计了电路架构，以集成随机忆阻神经元与执行突触权重功能的忆阻交叉阵列。我们将所提出的全忆阻器深度随机 SNN 用于图像分类测试，在引入电路与器件相关非理想性后，仅观察到相较 ANN 基线约 1% 的精度下降。我们观察到该网络对某些变化具有鲁棒性，且能耗比其 CMOS 对应物低约 6.4 倍。
引用
@article{arxiv.1712.01472,
title = {An All-Memristor Deep Spiking Neural Computing System: A Step Towards Realizing the Low Power,Stochastic Brain},
author = {Parami Wijesinghe and Aayush Ankit and Abhronil Sengupta and Kaushik Roy},
journal= {arXiv preprint arXiv:1712.01472},
year = {2018}
}
备注
In IEEE Transactions on Emerging Topics in Computational Intelligence