面向协作边缘推断的最优路径与 DNN 分区学习

深度神经网络 (DNN) 的近期进展催生了大量智能移动应用和服务，但也为资源受限的移动设备带来了显著的计算挑战。为此，提出了协作边缘推断方法。该方法将 DNN 推断任务划分为多个子任务，并在多个网络节点上分布这些子任务。尽管其潜力巨大，但目前大多数方法都假设已知网络参数——如节点处理速度和链路传输速率——或依赖于处理 DNN 子任务的固定节点序列。本文中，我们针对网络参数未知且可用于分配推断任务的多个网络路径的情况，提出了学习最优网络路径和在该路径上分配 DNN 图层的问题。具体而言，我们探讨了在考虑潜在安全威胁和切换路径成本的前提下，选择最优网络路径并将 DNN 图层分配给该路径上的节点的学习问题。我们首先从具有完整网络信息的 DNN 图层分配中导出结构性见解，这缩小了决策空间并提供了关于最优分配的关键理解。我们随后将带有不完整网络信息的学习问题建模为一个新型对抗性分组线性 bandits 问题，带有切换成本，特点是通过结合随机和对抗性过程生成奖励。我们引入一种新型 bandit 算法 B-EXPUCB，其结合了经典阻塞 EXP3 和 LinUCB 算法的元素，证明其具有亚线性报酬。广泛的仿真结果确认 B-EXPUCB 在协作边缘推断中优于现有算法。