忆阻网络中的随机深度学习

我们研究了随机训练的深层神经网络（DNN）的性能，其突触权重由新兴忆阻器件实现，这些器件在编程特性上表现出有限的动态范围、分辨率与变异性。我们表明，优化DNN学习效率的一个关键器件参数是其编程特性中的变异性。具有此类忆阻突触的DNN，即便动态范围低至$15$且仅有$32$个离散电平，当基于随机更新训练时，与浮点软件基线相比准确率损失小于$3\%$。我们还研究了作为推断引擎使用的随机忆阻DNN在噪声污染数据下的性能，发现若器件变异性可最小化，则随机DNN的相对性能退化优于软件基线。因此，我们的研究为构建大型抗噪深度学习系统的忆阻器件提出了一个新的优化维度。