BasisN：基于基数组重编程自由RRAM存储器计算
系统与控制
2024-07-08 v1 机器学习
系统与控制
摘要
深度神经网络(DNN)在图像识别和语言处理等诸多领域取得了突破。DNN执行了数亿次乘法累加(MAC)运算。为高效加速此类计算，类比存储器计算平台已涌现，利用阻变存储器(RRAM等新型器件)。然而，这类加速器面临一个难题：需要具备足够的片上交叉栏来容纳DNN的所有权重，否则RRAM单元在交叉栏中需要重新编程以处理后续层，导致由于RRAM单元写入和验证极慢，造成巨大的时/能开销。结果是，尚无法将此类加速器部署到工业中处理大规模DNN。为此，我们提出了BasisN框架，以无需重新编程的方式在任意数量的交叉栏上加速DNN。BasisN引入一种新颖的DNN层内核表示方法，将其表示为由在所有层之间共享的全局基向量(quantized系数组合)。这些基向量只写入一次，可用于所有层的计算，仅需轻微的硬件修改。BasisN还提供一种新颖的训练方法，以增强计算并行度，利用全局基向量并优化系数组合以构建内核。实验结果表明，在处理ImageNet和CIFAR100等大规模DNN(如DenseNet和ResNet)时，BasisN的推理周期和能耗-延迟积降低至不足1%，而训练和硬件成本几乎可以忽略。
引用
@article{arxiv.2407.03738,
title = {BasisN: Reprogramming-Free RRAM-Based In-Memory-Computing by Basis Combination for Deep Neural Networks},
author = {Amro Eldebiky and Grace Li Zhang and Xunzhao Yin and Cheng Zhuo and Ing-Chao Lin and Ulf Schlichtmann and Bing Li},
journal= {arXiv preprint arXiv:2407.03738},
year = {2024}
}
备注
accepted by ICCAD2024