利用误差弹性实现高能效神经计算的无乘法器人工神经元
神经与进化计算
2017-11-13 v1
摘要
大规模人工神经网络在解决广泛的分类与识别应用方面已展现出重要前景。然而,其巨大的计算需求拉伸了计算平台的能力。这些神经网络的基本组成部分是神经元及其突触。数字硬件神经元的核心由乘法器、累加器和激活函数构成。乘法器消耗了数字神经元中大部分的处理能量,从而在人工神经网络的硬件实现中亦如此。我们提出一种利用计算共享概念并挖掘神经网络应用误差弹性以改善能耗的近似乘法器。我们还提出无乘法器人工神经元(MAN)以进一步大幅降低能耗,并调整训练过程以确保精度退化最小。我们在5个识别应用上评估了所提出的设计。结果表明,与传统神经元实现相比,在神经元位宽分别为8位和12位时,能耗降低35%和60%,网络精度损失最大约2.83%。在同频条件下,神经元位宽为8位和12位时,面积分别减少37%和62%。
引用
@article{arxiv.1602.08557,
title = {Multiplier-less Artificial Neurons Exploiting Error Resiliency for Energy-Efficient Neural Computing},
author = {Syed Shakib Sarwar and Swagath Venkataramani and Anand Raghunathan and Kaushik Roy},
journal= {arXiv preprint arXiv:1602.08557},
year = {2017}
}
备注
Accepted in Design, Automation and Test in Europe 2016 conference (DATE-2016)