面向 SRAM-PIM 的高效协同设计：价值级与位级稀疏的联合探索
硬件体系结构
2025-06-13 v2
摘要
处理器内存储器（PIM）是一种旨在克服 von Neumann 瓶颈的变革性架构范式。在 PIM 架构中，数字 SRAM-PIM 作为一种有前景的解决方案，通过直接在 SRAM 数组内集成数字逻辑，显著优势显现。然而，刚性交叉栏架构和完全数组激活为有效利用传统价值级稀疏性带来了挑战。此外，神经网络模型在非零值中包含大比例的零位，这些零位因架构限制而未被充分利用。为克服这些限制，我们提出 Dyadic Block PIM（DB-PIM），一个面向 SRAM-PIM 的算法-架构协同设计框架，以有效管理价值级和位级稀疏性。在算法层面，我们的混合粒度剪枝技术结合新颖稀疏模式，实现了有效的稀疏性管理。在架构层面，DB-PIM 包含稀疏网络和定制的数字 SRAM-PIM 宏块，包括输入预处理单元（IPU）、dyadic block 乘法单元（DBMUs）和基于 Canonically Signed Digit（CSD）的加法树。它规避了权重中结构化的零值，绕过非零权重中非结构化的零位以及输入特征中块级全零位列。结果显示，DB-PIM 框架跳过大部分不必要的计算，从而显著提升了计算效率。结果表明，我们的 DB-PIM 框架实现了最高可达 8.01 倍的加速和 85.28% 的能源节省，显著提升了数字 SRAM-PIM 系统的计算效率。
引用
@article{arxiv.2505.18954,
title = {Efficient SRAM-PIM Co-design by Joint Exploration of Value-Level and Bit-Level Sparsity},
author = {Cenlin Duan and Jianlei Yang and Yikun Wang and Yiou Wang and Yingjie Qi and Xiaolin He and Bonan Yan and Xueyan Wang and Xiaotao Jia and Weisheng Zhao},
journal= {arXiv preprint arXiv:2505.18954},
year = {2025}
}
备注
This paper is accepted by the Journal of IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems