实现全边缘深度学习:一篇文献综述
机器学习
2022-12-13 v2 分布式、并行与集群计算
摘要
近年来,深度学习(DL)模型在语音识别和自然语言理解等 nontrivial 任务上取得了显著成就。其成功的重要推动因素之一是终端设备的激增,它们作为催化剂为数据饥渴的 DL 模型提供数据。然而,DL 训练与推理的计算是主要挑战。通常,中央云服务器被用于计算,但这引发了其他重大挑战,如高延迟、增加的通信成本以及隐私问题。为缓解这些缺陷,已将 DL 模型的处理推向边缘服务器的诸多努力。此外,DL 与边缘的汇合点催生了边缘智能(EI)。本综述论文主要关注 EI 的第五级,称为全边缘级,其中 DL 训练和推理(部署)仅由边缘服务器执行。当终端设备计算资源较低(例如物联网)且其他需求如延迟和通信成本在关键任务应用(例如医疗)中重要时,全边缘是合适的。首先,本文给出全边缘计算架构,包括集中式、去中心化和分布式。其次,本文给出赋能技术,如模型并行和拆分学习,其促进边缘服务器上的 DL 训练和部署。第三,描述了基于模型压缩和条件计算的模型适配技术,因为标准的基于云的 DL 部署由于其有限的计算资源不能直接应用于全边缘。第四,本文讨论了十一个关键性能指标,以有效评估全边缘下 DL 的性能。最后,给出了全边缘领域的若干开放研究挑战。
引用
@article{arxiv.2204.03326,
title = {Enabling All In-Edge Deep Learning: A Literature Review},
author = {Praveen Joshi and Mohammed Hasanuzzaman and Chandra Thapa and Haithem Afli and Ted Scully},
journal= {arXiv preprint arXiv:2204.03326},
year = {2022}
}
备注
21 pages