TL-nvSRAM-CIM:具有无直流功耗恢复与三值 MAC 运算的超高密三电平 ReRAM 辅助存内 nvSRAM 计算
硬件体系结构
2024-01-12 v2 人工智能
摘要
对于基于 SRAM 的存内计算(SRAM-CIM)而言,由于片上容量有限,在片上容纳大规模神经网络的所有权重仍是一项巨大挑战。先前的非易失性 SRAM-CIM(nvSRAM-CIM)通过将高密度单电平 ReRAM 集成于高效 SRAM-CIM 之上以存储权重,从而消除片外存储器访问,解决了该问题。然而,先前的 SL-nvSRAM-CIM 因单电平 ReRAM 数量增加而可扩展性差,且计算效率有限。为克服这些挑战,本工作提出了一种用于大型 NN 模型的超高密三电平 ReRAM 辅助非易失 SRAM 存内计算(TL-nvSRAM-CIM)方案。采用簇状 n-选择器-n-ReRAM(cluster-nSnRs)实现可靠的权重恢复并消除直流功耗。此外,提出了一种具有差分计算方案的三值 SRAM-CIM 机制,以实现高能效三值 MAC 运算,同时保持高 NN 精度。所提出的 TL-nvSRAM-CIM 相比最先进工作实现了 7.8 倍更高的存储密度。此外,与 SRAM-CIM 和 ReRAM-CIM 的基线设计相比,TL-nvSRAM-CIM 分别显示出高达 2.9 倍和 1.9 倍的能效提升。
引用
@article{arxiv.2307.02717,
title = {TL-nvSRAM-CIM: Ultra-High-Density Three-Level ReRAM-Assisted Computing-in-nvSRAM with DC-Power Free Restore and Ternary MAC Operations},
author = {Dengfeng Wang and Liukai Xu and Songyuan Liu and Zhi Li and Yiming Chen and Weifeng He and Xueqing Li and Yanan Sun},
journal= {arXiv preprint arXiv:2307.02717},
year = {2024}
}