利用磁畴壁物理扩展忆阻器蒙特卡洛方法
新兴技术
2023-12-06 v1 应用物理
摘要
通过利用纳米尺度器件的固有随机特性，忆阻器蒙特卡洛 (MMC) 是一种有前景的边缘学习系统使能技术。然而，由于多重算法和器件层面的限制，现有演示仅限于非常小的神经网络模型和数据集。我们讨论了这些限制，并描述了如何通过将随机梯度朗之万动力学 (SGLD) 算法映射到磁畴壁忆阻器的物理上，将 MMC 模型规模扩展五个数量级来克服这些限制。我们提出了实现物理内 SGLD 的推挽脉冲编程方法，并使用它在 CIFAR-10 数据集上训练基于畴壁的 ResNet18。在此任务上，我们观察到在更新精度降至 6 到 7 位之间时，相对于浮点模型没有性能下降，表明我们向利用噪声模拟器件的大规模边缘学习系统迈出了一步。
引用
@article{arxiv.2312.02771,
title = {Scaling-up Memristor Monte Carlo with magnetic domain-wall physics},
author = {Thomas Dalgaty and Shogo Yamada and Anca Molnos and Eiji Kawasaki and Thomas Mesquida and François Rummens and Tatsuo Shibata and Yukihiro Urakawa and Yukio Terasaki and Tomoyuki Sasaki and Marc Duranton},
journal= {arXiv preprint arXiv:2312.02771},
year = {2023}
}
备注
Presented at the 1st workshop on Machine Learning with New Compute Paradigms (MLNCP) at NeurIPS 2023 (New Orleans, USA)