NeuPart：利用解析模型驱动云连接移动客户端上CNN计算的高能效划分
分布式、并行与集群计算
2020-09-09 v2 信号处理
摘要
卷积神经网络（CNN）上的数据处理给受能量约束的移动平台带来了沉重负担。本工作通过在客户端本地处理与云端卸载计算之间划分CNN计算，来优化移动客户端的能耗。针对基于ASIC的深度学习加速器，构建了一个新的解析CNN能耗模型，涵盖本地计算的所有主要组成部分。该模型以实测硅片数据进行基准测试。该解析框架用于在运行时确定客户端与云端之间的最优能耗划分点。在标准CNN拓扑上，分区计算被证明相比完全基于云端或完全本地计算能为客户端带来显著的能耗节省。例如，在80 Mbps有效比特率和0.78 W传输功率下，AlexNet [SqueezeNet]的最优划分相比完全基于云端的计算最多节省52.4% [73.4%]能耗，相比完全本地计算节省27.3% [28.8%]能耗。
引用
@article{arxiv.1905.05011,
title = {NeuPart: Using Analytical Models to Drive Energy-Efficient Partitioning of CNN Computations on Cloud-Connected Mobile Clients},
author = {Susmita Dey Manasi and Farhana Sharmin Snigdha and Sachin S. Sapatnekar},
journal= {arXiv preprint arXiv:1905.05011},
year = {2020}
}
备注
Published in IEEE Transactions on Very Large Scale Integration (VLSI) Systems, April 2020