EDCompress：面向数据流的能量感知模型压缩
机器学习
2020-07-14 v2 机器学习
摘要
边缘设备要求低能耗、低成本和小外形尺寸。为在边缘设备上高效部署卷积神经网络（CNN）模型，能量感知模型压缩变得极为重要。然而，现有工作由于未考虑硬件架构中数据流类型的多样性，未能很好地研究该问题。本文中，我们提出 EDCompress，一种面向多种数据流的能量感知模型压缩方法。它能有效降低具有不同数据流类型的各类边缘设备的能耗。考虑到模型压缩过程的本质，我们将优化过程重构为多步问题，并通过强化学习算法求解。实验表明，EDCompress 在 VGG-16、MobileNet、LeNet-5 网络上分别可将能效提升 20 倍、17 倍、37 倍，且精度损失可忽略。EDCompress 还能针对特定神经网络找出能耗最优的数据流类型，从而指导 CNN 模型在硬件系统上的部署。
引用
@article{arxiv.2006.04588,
title = {EDCompress: Energy-Aware Model Compression for Dataflows},
author = {Zhehui Wang and Tao Luo and Joey Tianyi Zhou and Rick Siow Mong Goh},
journal= {arXiv preprint arXiv:2006.04588},
year = {2020}
}