DeepCAM：一种基于全 CAM、具可变哈希长度以实现高能效深度神经网络推理的加速器
机器学习
2023-02-10 v1 新兴技术
摘要
随着深度神经网络为达最先进性能而不断加深加宽，深度学习计算量显著增长，且点积在总计算时间中占主导。多数先前工作构建于常规点积，即以加权输入求和表示神经元操作。然而，另一种基于欧氏空间中角度与幅度的点积实现受关注有限。本文提出 DeepCAM，一种构建于两项关键创新以缓解卷积神经网络计算时间瓶颈的推理加速器。第一项创新为构建于欧氏空间计算的近似点积，可用简单位运算替代加法与乘法。第二项创新为动态大小基于内容寻址存储器（CAM-based）的加速器，以执行位运算并以更低计算时间加速 CNN。我们在基准图像识别数据集上的实验表明，DeepCAM 比 Eyeriss 快达 523 倍、比 Intel Skylake 等传统 CPU 快达 3498 倍。此外，DeepCAM 方法能耗较 Eyeriss 低 2.16 至 109 倍。
引用
@article{arxiv.2302.04712,
title = {DeepCAM: A Fully CAM-based Inference Accelerator with Variable Hash Lengths for Energy-efficient Deep Neural Networks},
author = {Duy-Thanh Nguyen and Abhiroop Bhattacharjee and Abhishek Moitra and Priyadarshini Panda},
journal= {arXiv preprint arXiv:2302.04712},
year = {2023}
}
备注
Accepted to Design, Automation and Test in Europe (DATE) Conference, 2023