EmBench:量化深度神经网络在现代商用设备上的性能差异
机器学习
2019-05-20 v1 性能
机器学习
摘要
近年来,深度学习的进展在从语音与物体识别到情境感知与健康监测的各类任务中带来了前所未有的飞跃。因此,越来越多面向普适与移动设备的 AI 赋能应用被开发出来。虽然深度神经网络(DNNs)变得更大且更复杂,它们也给宿主设备带来了沉重的计算与能耗负担,这导致各类专用处理器被集成到商用设备中。鉴于竞争性的 DNN 架构范围广泛且目标硬件异构,理解 DNN-平台对之间的兼容性以及各平台上的预期性能收益已成为新兴需求。本工作试图通过在多种商用设备上系统评估一系列最先进 DNNs 来厘清这一图景。在这方面,我们识别每种架构中的潜在瓶颈,并提供可协助社区进行更高效 DNN 与加速器协同设计的重要指南。
引用
@article{arxiv.1905.07346,
title = {EmBench: Quantifying Performance Variations of Deep Neural Networks across Modern Commodity Devices},
author = {Mario Almeida and Stefanos Laskaridis and Ilias Leontiadis and Stylianos I. Venieris and Nicholas D. Lane},
journal= {arXiv preprint arXiv:1905.07346},
year = {2019}
}
备注
Accepted at MobiSys 2019: 3rd International Workshop on Embedded and Mobile Deep Learning (EMDL), 2019