基于 NVM 交叉阵列架构的二值神经网络综合基准测试
新兴技术
2023-08-14 v1 硬件体系结构
摘要
非易失性存储器（NVM）交叉阵列已被认为是一项有前景的技术，可加速重要的机器学习运算，矩阵-向量乘法便是一个关键例子。二值神经网络（BNN）由于对激活值和权重均采用低位宽表示，因而特别适合与 NVM 交叉阵列配合使用。然而，BNN 的激进量化可能导致次优精度，而 NVM 交叉阵列的模拟效应会在推理过程中进一步降低精度。本文提出了一项综合研究，对已在 ImageNet 上训练并验证的 BNN 进行基准测试，并将其部署于 NeuroSim（一种基于 NVM 交叉阵列的存内计算（PIM）架构模拟器）上。我们的研究分析了输入精度和 ADC 分辨率等多种参数对推理精度及硬件性能指标的影响。我们发现，与原始 BNN 相比，8 位 ADC 分辨率配合 4 位输入精度可达到接近最优的精度。此外，我们识别了 PIM 架构中影响面积、延迟和能耗的瓶颈组件，并展示了不同 BNN 层对硬件性能的影响。
引用
@article{arxiv.2308.06227,
title = {Comprehensive Benchmarking of Binary Neural Networks on NVM Crossbar Architectures},
author = {Ruirong Huang and Zichao Yue and Caroline Huang and Janarbek Matai and Zhiru Zhang},
journal= {arXiv preprint arXiv:2308.06227},
year = {2023}
}