pCAMP：边缘设备上机器学习包的性能比较
分布式、并行与集群计算
2019-06-07 v2 机器学习
性能
摘要
机器学习已改变计算范式。当今产品以机器智能为核心属性构建，消费者开始期望所用设备具备近乎人类的交互。然而，深度学习的革命大多局限于云端。近来，若干基于边缘设备的机器学习包相继发布，旨在将计算卸载至边缘。但针对这些边缘包的研究甚少，导致终端用户难以选择合适的软硬件组合。本文对边缘上若干最先进机器学习包进行性能比较，包括 TensorFlow、Caffe2、MXNet、PyTorch 与 TensorFlow Lite。我们聚焦于在不同边缘设备上，用两类流行神经网络评估这些工具的延迟、内存占用与能耗。该评估不仅为终端用户选择软硬件包合适组合提供参考，也为开发者优化包指明可能的未来方向。
引用
@article{arxiv.1906.01878,
title = {pCAMP: Performance Comparison of Machine Learning Packages on the Edges},
author = {Xingzhou Zhang and Yifan Wang and Weisong Shi},
journal= {arXiv preprint arXiv:1906.01878},
year = {2019}
}
备注
6 pages, 3 figures, USENIX HotEdge 2018