一种具有灵活操作数解析与逐层权重/输出驻留的事件驱动数字计算存储加速器
硬件体系结构
2024-10-31 v1 人工智能
摘要
脉冲神经网络(SNN)的计算存储(CIM)加速器是实现 s 级推理延迟和边缘视觉应用中超低功耗的有前景方案。然而,其目前在电路和系统层面均缺乏灵活性,限制了其在广泛真实场景中的部署。在本工作中,我们提出了一种新型数字 CIM 宏单元,支持任意操作数解析与形状,并采用统一的 CIM 存储来存放权重与膜电位。这些电路级技术使系统层面能够实现混合权重驻留与输出驻留数据流,以最大化操作数复用,从而最小化 SNN 执行期间昂贵的内外存数据搬运。对 40nm CMOS 工艺制造的 FlexSpIM 原型的测量结果表明,与先前固定精度数字 CIM-SNN 相比,比特归一化能效提升了 2,同时支持位级粒度的分辨率重构。我们的方法在大规模系统中可节省高达 90% 的能量,同时在 IBM DVS 手势数据集上达到 95.8% 的最先进分类准确率。
引用
@article{arxiv.2410.23082,
title = {An Event-Based Digital Compute-In-Memory Accelerator with Flexible Operand Resolution and Layer-Wise Weight/Output Stationarity},
author = {Nicolas Chauvaux and Adrian Kneip and Christoph Posch and Kofi Makinwa and Charlotte Frenkel},
journal= {arXiv preprint arXiv:2410.23082},
year = {2024}
}
备注
5 pages, 7 figures, submitted to IEEE ISCAS 2025