面向协作边缘计算的 DNN 推理网络工具在线优化

协作边缘计算 (CEC) 是一种新兴范式，通过协作异构边缘设备作为资源池来计算靠近的 DNN 推理任务，例如边缘视频分析。然而，作为提高 CEC 网络工具的关键参数，现有工作主要聚焦于在边缘设备之间进行工作负载路由策略，以实现最小化路由成本的目标，仍未从系统视角解决联合工作负载分配与路由优化问题。为此，本文提出了一种面向 CEC 的整体、学习的优化方法，以在线方式最大化总网络工具，尽管任务输入速率的工具函数事先未知。具体而言，我们以流模型刻画 CEC 系统，并以跨层优化形式构建一个在线学习问题。我们提出了一个嵌套循环算法，用于迭代地求解工作负载分配和分布式路由，使用梯度抽样和在线镜像下降工具。为提高嵌套循环版本的收敛速度，我们进一步设计了一个单循环算法。提供了严格的分析，显示其固有的凸性、高效收敛以及算法最优性。最终，通过大量数值仿真，证明了我们解决方案的卓越性能。