OSA-HCIM：具有动态精度配置的即时显著性感知混合 SRAM 存内计算
硬件体系结构
2023-11-22 v2
摘要
存内计算（CIM）在提升深度神经网络（DNNs）的效率与性能方面已展现出巨大潜力。然而，CIM 缺乏灵活性，导致在较不关键的操作上不必要的计算资源消耗，且在处理更复杂任务时信噪比（SNR）下降，严重阻碍整体性能。因此，我们聚焦于将 CIM 与显著性感知计算（Saliency-Aware Computing）相集成——该范式根据每个输入的重要性动态定制计算精度。我们提出即时显著性感知混合 CIM（OSA-HCIM），贡献主要有三：（1）即时显著性感知（OSA）精度配置方案，根据每个 MAC 运算的显著性动态设定其精度；（2）混合 CIM 阵列（HCIMA），通过分端口 6T SRAM 实现数字域 CIM（DCIM）与模拟域 CIM（ACIM）的同步运行；（3）结合 OSA 与 HCIMA 的集成框架，以满足多样的精度与功耗需求。基于 65nm CMOS 工艺实现，OSA-HCIM 在精度与资源利用间展现出卓越平衡。值得注意的是，它是首个引入动态数模边界的 CIM 设计，为显著性感知计算提供前所未有的灵活性。在 CIFAR100 数据集上测试时，OSA-HCIM 相比 DCIM 实现了 1.95 倍的能效提升，同时保持最小精度损失。
引用
@article{arxiv.2308.15040,
title = {OSA-HCIM: On-The-Fly Saliency-Aware Hybrid SRAM CIM with Dynamic Precision Configuration},
author = {Yung-Chin Chen and Shimpei Ando and Daichi Fujiki and Shinya Takamaeda-Yamazaki and Kentaro Yoshioka},
journal= {arXiv preprint arXiv:2308.15040},
year = {2023}
}