委员会机——应对基于忆阻器的神经网络中非理想性的通用方法
新兴技术
2020-08-28 v5
摘要
人工神经网络在传统冯·诺依曼计算系统上实现时，以 notorious 的功耗高、耗时长而著称。因此，近年来出现了将存储与计算拉近的机器学习硬件研究热潮。一种流行的方法是通过使用忆阻器件实现其突触权重，从而在硬件中实现人工神经网络。然而，各种器件级与系统级的非理想性通常阻碍这些物理实现达到高推理精度。我们建议在基于忆阻器的神经网络背景下应用计算机科学中一个众所周知的概念——委员会机（committee machines）。利用来自三种不同类型忆阻器件的仿真与实验数据，我们表明采用集成平均的委员会机能够成功提升受故障器件、器件间差异性、随机电报噪声和线电阻影响的物理实现神经网络的推理精度。重要的是，我们证明了即便不增加忆阻器总数，精度也能得到改善。
引用
@article{arxiv.1909.06658,
title = {Committee machines -- a universal method to deal with non-idealities in memristor-based neural networks},
author = {D. Joksas and P. Freitas and Z. Chai and W. H. Ng and M. Buckwell and C. Li and W. D. Zhang and Q. Xia and A. J. Kenyon and A. Mehonic},
journal= {arXiv preprint arXiv:1909.06658},
year = {2020}
}
备注
22 pages, 18 figures, 4 tables