面向 AIoT 的 DNN 推理设备-边缘协同：一种数字孪生辅助的方法
分布式、并行与集群计算
2024-05-29 v1
摘要
设备-边缘协同 DNN 推理是一种高效利用网络资源以支持人工智能 of things（AIoT）应用的有前景方法。本文提出一种 novel 数字孪生（DT）辅助的设备-边缘协同 DNN 推理方法，以确定是否以及何时在设备上停止本地推理并将中间结果上传至完成边缘服务器上的推理。与此不同，对于每个 DNN 推理任务，协同决策并非仅在其生成时确定，而是在进行 on-device 推理期间进行多步骤决策，以适应设备和边缘服务器上动态的计算工作负载状态。为增强 adaptivity，我们构建一个 DT 来评估每个 DNN 推理任务的所有潜在 offload 决策，为机器学习辅助的 decision-making 算法提供增强的训练数据。然后，构建另一个 DT 来估计设备上的推理状态，以避免频繁获取设备的状态信息，从而降低信令开销。我们还推导了降低 offload 决策空间的必要条件。仿真结果表明，我们的 DT 辅助方法在推理准确率、延迟和能耗之间的权衡方面表现出色。
引用
@article{arxiv.2405.17664,
title = {Adaptive Device-Edge Collaboration on DNN Inference in AIoT: A Digital Twin-Assisted Approach},
author = {Shisheng Hu and Mushu Li and Jie Gao and Conghao Zhou and Xuemin Shen},
journal= {arXiv preprint arXiv:2405.17664},
year = {2024}
}