多者异也:用海量移动 SoC 原型化并分析一种新型边缘服务器
分布式、并行与集群计算
2024-07-18 v2
摘要
巨大的能耗给边缘云带来了重大挑战。为此,我们引入一种新型边缘服务器,即 SoC 集群(SoC Cluster),其通过片上网络编排多个低功耗移动系统级芯片(SoC)。我们首次开发了具体的 SoC 集群,由置于 2U 机架中的 60 个高通骁龙 865 SoC 组成,已成功商业化并广泛部署于边缘云中。由于移动 SoC 与原生移动游戏之间的兼容性,云游戏成为这些已部署 SoC 集群上的主要工作负载。在本研究中,我们旨在揭示 SoC 集群能否高效服务于更通用的典型边缘工作负载。因此,我们开发了一套基准测试套件,采用最先进库针对视频转码与深度学习推理这两个关键边缘工作负载进行测试。该套件评估吞吐量、延迟、功耗以及其他应用特定指标(如视频质量)。随后,我们开展了详尽的测量研究,并从用电量与货币成本方面将 SoC 集群与传统边缘服务器直接比较。我们的结果定量揭示了移动 SoC 在何时以及针对哪些应用比传统服务器具有更高能效,以及其随波动到达负载按比例调节功耗的能力。这些结果为进一步优化 SoC 集群以促进其在更广阔边缘场景中的部署提供了深刻启示与宝贵方向。
引用
@article{arxiv.2212.12842,
title = {More is Different: Prototyping and Analyzing a New Form of Edge Server with Massive Mobile SoCs},
author = {Li Zhang and Zhe Fu and Boqing Shi and Xiang Li and Rujin Lai and Chenyang Yang and Ao Zhou and Xiao Ma and Shangguang Wang and Mengwei Xu},
journal= {arXiv preprint arXiv:2212.12842},
year = {2024}
}
备注
Accepted at USENIX ATC 2024