基于曼哈顿更新规则的记忆电阻器神经网络建模:学习性能与能耗之间的权衡
介观与纳米尺度物理
2025-11-07 v1
摘要
我们系统研究了使用硬件友好的曼哈顿更新规则训练的记忆电阻器神经网络,重点考察学习性能与能耗之间的权衡。通过采用真实的电导/抑制 (P/D) 曲线模型,我们评估了非线性 (NLI)、电导范围和可访问离散电阻水平对单个感知器 (SP) 和在 MNIST 数据集上训练的深度神经网络 (DNN) 的影响。我们的结果表明,SP 能容忍 NLI 达到 0.01 以下的 P/D 非线性,而 DNN 则需要更严格的 NLI ≤ 0.001 条件才能保持准确率。增加离散电阻电阻状态的数量有助于收敛,实际上相当于更细粒度的学习率。我们进一步提出一种策略,即固定每个差分对中一个记忆电阻器的电阻值,以减少冗余的电阻更新。这一方法在 DNN 中可将训练能耗降低约 50%,而准确率几乎不受影响。我们的发现凸显了在实现可扩展、低功耗 neuromorphic 硬件以服务边缘 AI 应用方面,设备-算法协同设计的重要性。
引用
@article{arxiv.2511.03858,
title = {Modeling Memristor-Based Neural Networks with Manhattan Update: Trade-offs in Learning Performance and Energy Consumption},
author = {Walter Quiñonez and María José Sánchez and Diego Rubi},
journal= {arXiv preprint arXiv:2511.03858},
year = {2025}
}
备注
22 pages, 6 figures. Suplementary Material upon request