基于MTJ的神经网络在随机计算中的功耗优化
神经与进化计算
2017-09-14 v1 新兴技术
摘要
人工神经网络（ANNs）在模式识别和图像分类等任务中得到了广泛应用。然而，使用传统二进制算术单元的ANN硬件实现计算成本高、能耗大且面积开销大。随机计算（SC）是一种新兴范式，它用简单逻辑电路替代这些传统单元，特别适用于容错应用。自旋电子器件，如磁隧道结（MTJs），能够替代CMOS用于存储和逻辑电路。在这项工作中，我们提出了一种节能的MTJ使用方式，其表现出概率切换行为，作为随机数字发生器（SNGs），这构成了我们在SC域中NN实现的基础。此外，NN的容错目标应用允许我们引入近似计算，这是一种将计算精度换取大幅降低功耗的框架。我们提出在我们的基于MTJ的NN实现中近似突触权重，方式由我们的MTJ-SNG特性带来，以实现能效。我们设计了一种算法，由于问题公式的凸性，能够在给定误差容限内以最优方式在单层NN中进行此类近似。然后我们使用该算法并开发了一种用于近似多层NN的启发式方法。为了说明我们方法的有效性，在标准分类问题上获得了43%的功耗降低，精度损失小于1%，其中26%由所提算法带来。
引用
@article{arxiv.1709.04322,
title = {Power Optimizations in MTJ-based Neural Networks through Stochastic Computing},
author = {Ankit Mondal and Ankur Srivastava},
journal= {arXiv preprint arXiv:1709.04322},
year = {2017}
}
备注
Accepted in the 2017 IEEE/ACM International Conference on Low Power Electronics and Design