通过形式化属性探索在近似加速器上实现高能效的DNN推理
机器学习
2022-07-26 v1
摘要
深度神经网络(DNN)在现代应用中被大量使用,并对受能耗约束的设备提出了挑战。为规避高能耗问题,近似计算已被用于DNN加速器以平衡精度-能耗降低的权衡。然而,近似引起的精度损失可能非常高,并严重降低DNN的性能。因此,需要一种细粒度机制,将特定的DNN运算分配给近似计算,从而在保持可接受DNN精度的同时实现低能耗。本文提出一种自动框架,用于权重到近似的映射,从而实现对近似DNN加速器的形式化属性探索。在MAC单元层面,我们的实验评估在能耗收益方面超过了已有的高能效映射超过,同时也支持对引入的近似进行显著更细粒度的控制。
引用
@article{arxiv.2207.12350,
title = {Energy-efficient DNN Inference on Approximate Accelerators Through Formal Property Exploration},
author = {Ourania Spantidi and Georgios Zervakis and Iraklis Anagnostopoulos and Jörg Henkel},
journal= {arXiv preprint arXiv:2207.12350},
year = {2022}
}
备注
Accepted for publication at the International Conference on Compilers, Architectures, and Synthesis for Embedded Systems (CASES) 2022. Will appear as part of the ESWEEK-TCAD special issue