铅盐器材器件与算法的协同发展：面向稳健类比计算
机器学习
2024-12-10 v2 人工智能
新兴技术
摘要
使用非易失性记忆电阻器的类比计算已成为实现能源高效深度学习的有前景的解决方案。新的材料，如铅盐基记忆电阻器，近期因其成本效益、能源效率和灵活性而备受青睐。然而，材料多样性不足和制造工艺不成熟，使得器件开发需要 extensive 实验。此外，这类记忆电阻器中的显著非理想特性常常阻碍其用于计算。本文提出了一种协同方法，同时优化铅盐记忆电阻器的制造工艺并开发稳健的类比深度神经网络，以有效应对记忆电阻器固有的非理想特性。我们采用聚焦可用性的贝叶斯优化 (BO)，高效识别铅盐记忆电阻器的最优材料和制造条件。同时，我们开发了"BayesMulti"，一种利用 BO 指导的噪声注入来提高类比 DNN 对记忆电阻器缺陷抗性的 DNN 训练策略。我们的方法在记忆电阻器非理想特性导致的参数扰动的一定范围内，确保预测结果保持一致。我们的集成方法使类比计算可用于更深更广的网络，在诸如图像分类、自动驾驶、物种识别和大型视觉语言模型等多项任务中显著优于现有方法，实现了最高可达 100 倍的提升。我们进一步在 10×10 的优化铅盐记忆电阻器交叉阵列上验证了该方法，显示在分类任务中具有高精度且能耗低。该研究为高效优化各种类比计算系统（包括器件和算法）提供了一种通用解决方案。
引用
@article{arxiv.2412.02779,
title = {Synergistic Development of Perovskite Memristors and Algorithms for Robust Analog Computing},
author = {Nanyang Ye and Qiao Sun and Yifei Wang and Liujia Yang and Jundong Zhou and Lei Wang and Guang-Zhong Yang and Xinbing Wang and Chenghu Zhou and Wei Ren and Leilei Gu and Huaqiang Wu and Qinying Gu},
journal= {arXiv preprint arXiv:2412.02779},
year = {2024}
}