MemSE:面向基于忆阻器的含噪 DNN 加速器的快速 MSE 预测
机器学习
2022-05-05 v1 新兴技术
神经与进化计算
摘要
忆阻器能够在内存中计算矩阵-向量乘法(MVM),因此在大幅提高深度神经网络(DNN)推理加速器的能效方面展现出巨大潜力。然而,忆阻器中的计算受硬件非理想性影响,并受到不同噪声源的干扰,可能对系统性能产生负面影响。在本工作中,我们从理论上分析了使用忆阻器交叉阵列计算 MVM 的 DNN 的均方误差。我们考虑了因缩减 DNN 模型尺寸必要性而产生的量化噪声,以及源于忆阻值编程期间变异性的编程噪声。在预训练 DNN 模型上的仿真展示了分析预测的准确度。此外,所提方法比蒙特卡洛仿真快近两个数量级,从而使其能优化实现参数以在给定功耗约束下实现最小误差。
引用
@article{arxiv.2205.01707,
title = {MemSE: Fast MSE Prediction for Noisy Memristor-Based DNN Accelerators},
author = {Jonathan Kern and Sébastien Henwood and Gonçalo Mordido and Elsa Dupraz and Abdeldjalil Aïssa-El-Bey and Yvon Savaria and François Leduc-Primeau},
journal= {arXiv preprint arXiv:2205.01707},
year = {2022}
}
备注
To be presented at AICAS 2022