Ax-BxP：面向精度可重构深度神经网络加速的近似分块计算
机器学习
2021-11-01 v3 硬件体系结构
计算机视觉与模式识别
摘要
精度缩放已成为优化深度神经网络（DNN）计算与存储需求的流行技术。朝向超低精度（8 位以下）DNN 的努力表明，达到给定网络级精度所需的最小精度在网络间甚至网络内层间差异显著，要求 DNN 硬件支持可变精度。先前的方案如位串行硬件带来高开销，显著削弱了更低精度的收益。为在 DNN 加速器中高效支持精度可重构性，我们引入一种近似计算方法，其中 DNN 计算以块（一组位）为单位执行，且可重构性以块为粒度支持。分块计算结果以近似方式组合以实现高效可重构性。我们设计了一款体现近似分块计算的 DNN 加速器，并提出为给定 DNN 确定合适近似配置的方法。通过跨 DNN 变化近似配置，我们在分类精度损失可忽略情况下，相较 8 位定点（FxP8）基线分别取得系统能耗与性能 1.17x-1.73x 和 1.02x-2.04x 的提升。进一步，通过跨 DNN 内层与数据结构变化近似配置，我们分别取得系统能耗与性能 1.25x-2.42x 和 1.07x-2.95x 的提升，精度损失可忽略。
引用
@article{arxiv.2011.13000,
title = {Ax-BxP: Approximate Blocked Computation for Precision-Reconfigurable Deep Neural Network Acceleration},
author = {Reena Elangovan and Shubham Jain and Anand Raghunathan},
journal= {arXiv preprint arXiv:2011.13000},
year = {2021}
}