利用神经形态计算固有的错误弹性通过混合信号神经元实现极致能效
新兴技术
2018-06-14 v1 人工智能
神经与进化计算
摘要
受大脑启发的神经形态计算,对分类与模式识别等特定类别的学习任务有望实现极致效率。神经形态计算的性能与功耗在很大程度上取决于神经元架构的选择。数字神经元(Dig-N)传统上以高速下准确且高效著称,但在大型设计中因大量晶体管而存在高漏电流。另一方面,模拟/混合信号神经元易受噪声、变异与失配影响,但可实现极低功耗设计。本工作中,我们将现有神经元架构与所提出的混合信号神经元(MS-N)在性能、功耗与噪声方面进行分析、比较与对比,从而展示所提混合信号神经元在神经形态计算中达成极致能效的适用性。所提 MS-N 采用 65 nm CMOS 工艺实现,相较于同工艺节点综合的两种传统数字神经元,在所有频率下能效提升 >100 倍。我们还证明全连接甚至卷积神经网络(CNN)固有的错误弹性可在一定程度上容忍 MS-N 的噪声及制造非理想性。值得注意的是,在 MNIST 数据集上的系统级实现显示,当带宽内积分噪声功率约 0.1 uV2,且所提 8 位精度神经元晶体管参数引入 +-3{\sigma} 量的变异与失配时,分类误差的最坏情况增加为 2.1%。
引用
@article{arxiv.1806.05141,
title = {Exploiting Inherent Error-Resiliency of Neuromorphic Computing to achieve Extreme Energy-Efficiency through Mixed-Signal Neurons},
author = {Baibhab Chatterjee and Priyadarshini Panda and Shovan Maity and Ayan Biswas and Kaushik Roy and Shreyas Sen},
journal= {arXiv preprint arXiv:1806.05141},
year = {2018}
}