面向边缘智能的协作式 DNN 推理综述
分布式、并行与集群计算
2024-04-01 v1 机器学习
摘要
随着人工智能（AI）的蓬勃发展，基于深度神经网络（DNN）的智能应用改变了人们的生活方式与生产效能。然而，网络边缘产生的大量计算与数据成为主要瓶颈，传统基于云的计算模式已无法满足实时处理任务的需求。为解决上述问题，通过将 AI 模型训练与推理能力嵌入网络边缘，边缘智能（EI）成为 AI 领域的前沿方向。进而，云、边、端设备间的协作式 DNN 推理为提升 EI 提供了一条有前景的途径。尽管如此，目前面向 EI 的协作式 DNN 推理仍处于早期阶段，缺乏对现有研究工作的系统性分类与讨论。受此驱动，我们对近期关于面向 EI 的协作式 DNN 推理的研究进行了全面调研。本文首先回顾 EI 的背景与动机，继而对四种典型面向 EI 的协作式 DNN 推理范式进行分类，并分析其特点与关键技术。最后，我们总结协作式 DNN 推理当前的挑战，探讨未来发展趋势并给出未来研究方向。
引用
@article{arxiv.2207.07812,
title = {A Survey on Collaborative DNN Inference for Edge Intelligence},
author = {Weiqing Ren and Yuben Qu and Chao Dong and Yuqian Jing and Hao Sun and Qihui Wu and Song Guo},
journal= {arXiv preprint arXiv:2207.07812},
year = {2024}
}