RAELLA：重构算术以实现高效、低分辨率、低损耗的模拟存内计算：无需重训练！
硬件体系结构
2023-04-18 v1
摘要
存内处理(Processing-In-Memory, PIM)加速器通过减少昂贵的数据搬移并利用阻变RAM(ReRAM)进行高效模拟计算，有潜力高效运行深度神经网络(DNN)推理。遗憾的是，整体PIM加速器的效率受限于高能耗的模数转换器(ADCs)。此外，现有降低ADC成本的加速器要么改变DNN权重，要么使用降低输出保真度的低分辨率ADC。这些策略损害DNN精度，和/或需要昂贵的DNN重训练来补偿。为解决这些问题，我们提出RAELLA架构。RAELLA使架构适配每个DNN；它通过编码权重以产生近零模拟值、为各DNN层自适应切片权重、以及通过推测与恢复动态切片输入，从而降低所计算模拟值的分辨率。低分辨率模拟值使RAELLA能够使用高效的低分辨率ADC并保持精度而无需重训练，同时以更少的ADC转换完成计算。与其他低精度损耗的PIM加速器相比，RAELLA将能效提升至最高4.9、吞吐率提升至最高3.3。与那些引起精度损耗并需重训练DNN以恢复的PIM加速器相比，RAELLA在无需昂贵DNN重训练的情况下实现了相近的效率和吞吐率。
引用
@article{arxiv.2304.07935,
title = {RAELLA: Reforming the Arithmetic for Efficient, Low-Resolution, and Low-Loss Analog PIM: No Retraining Required!},
author = {Tanner Andrulis and Joel S. Emer and Vivienne Sze},
journal= {arXiv preprint arXiv:2304.07935},
year = {2023}
}
备注
16 pages; 15 figures; Accepted at ISCA 2023 (the International Symposium on Computer Architecture)