基于 MTJ 交叉阵列的神经网络的原位随机训练
神经与进化计算
2018-06-26 v1 新兴技术
摘要
由于高器件密度、可扩展性和非易失性，基于磁隧道结（MTJ）的交叉阵列在实现人工神经网络权重方面引起了极大兴趣。MTJ 中仅存在两个稳定态意味着在软件中获取最优二值权重的高开销。我们说明交叉阵列结构固有的并行性使其非常适合原位训练，即网络直接在硬件上被教导。这导致显著更小的训练开销，因为训练时间与网络大小无关，同时还规避了交叉阵列中旁路电流的影响并考虑了器件的制造偏差。我们展示了如何利用 MTJ 的随机切换特性，使用梯度下降算法执行概率性权重更新。我们描述了如何在带和不带访问晶体管的交叉阵列上执行更新操作，并对它们进行仿真以证明我们技术的有效性。结果表明，随机训练的 MTJ 交叉阵列神经网络达到了与软件训练的实数值权重网络几乎相同的分类精度，并表现出对器件偏差的免疫性。
引用
@article{arxiv.1806.09057,
title = {In-situ Stochastic Training of MTJ Crossbar based Neural Networks},
author = {Ankit Mondal and Ankur Srivastava},
journal= {arXiv preprint arXiv:1806.09057},
year = {2018}
}
备注
Accepted for poster presentation in the 2018 ACM/IEEE International Symposium on Low Power Electronics and Design (ISLPED)