面向深度学习框架的 HfOx 阻变存储器弱复位过程模型
机器学习
2021-10-04 v2 应用物理
摘要
当前深度学习训练算法的实现因存储单元与逻辑单元间的数据传输而功耗巨大。基于氧化物的阻变随机存取存储器（RRAM）是实现存内计算的杰出候选者，其功耗更低。它们的弱 RESET 机制对学习尤其具有吸引力，因为它能以出色的耐久性调节器件电阻。然而，该机制下的阻变行为存在大量涨落，尤其难以建模，特别是以兼容深度学习仿真工具的方式。在这项工作中，我们提出了铪氧化物 RRAM 弱 RESET 过程的模型，并将该模型集成到 PyTorch 深度学习框架中。经混合 CMOS/RRAM 技术上的实验验证，我们的模型同时复现了噪声渐进行为和器件间（D2D）差异性。我们利用该工具训练了用于 MNIST 手写数字识别任务和 CIFAR-10 物体分类任务的二值化神经网络。我们仿真了包含与不包含各类器件缺陷的模型，以理解它们对训练过程的影响，并确认 D2D 差异是最有害的因素。该框架同样可用于其他类型存储器，以识别导致最大退化的器件缺陷，进而可用于优化器件以减小这些缺陷的影响。
引用
@article{arxiv.2107.06064,
title = {Model of the Weak Reset Process in HfOx Resistive Memory for Deep Learning Frameworks},
author = {Atreya Majumdar and Marc Bocquet and Tifenn Hirtzlin and Axel Laborieux and Jacques-Olivier Klein and Etienne Nowak and Elisa Vianello and Jean-Michel Portal and Damien Querlioz},
journal= {arXiv preprint arXiv:2107.06064},
year = {2021}
}