RRAM 架构中稠密与稀疏映射方案的 design space exploration
新兴技术
2022-01-26 v2 人工智能
硬件体系结构
摘要
在混合信号阻变随机存取存储器(RRAM)加速器中,器件与电路级效应对深度学习(DL)算法的影响通常表现为性能退化,但其影响程度因算法特征而异。这些特征包括网络架构、容量、权重分布以及层间连接类型。高效训练稀疏神经网络的技术不断涌现,这类网络可能具有激活稀疏性、量化和忆阻噪声。本文提出一种扩展的 design space exploration(DSE)方法,以量化多种网络架构下稠密与稀疏映射方案的优劣与局限。尽管连接稀疏性有助于降低功耗,且常针对提取局部特征而优化,但由于参数化不足,其在平铺 RRAM 阵列上的性能可能比稠密映射方案更易受噪声影响。此外,我们以 CIFAR-10 数据集为例,量化并形式化了引入 1-晶体管-1-电阻(1T1R)平铺忆阻架构的典型非理想性以及模块化交叉阵列瓦片尺寸之间的权衡。
引用
@article{arxiv.2201.06703,
title = {Design Space Exploration of Dense and Sparse Mapping Schemes for RRAM Architectures},
author = {Corey Lammie and Jason K. Eshraghian and Chenqi Li and Amirali Amirsoleimani and Roman Genov and Wei D. Lu and Mostafa Rahimi Azghadi},
journal= {arXiv preprint arXiv:2201.06703},
year = {2022}
}
备注
Accepted at 2022 IEEE International Symposium on Circuits and Systems (ISCAS). [v2] Fixed incorrectly labeled author affiliations for Chenqi Li, Amirali Amirsoleimani, and Roman Genov