面向边缘智能的移动性与成本感知推理加速算法

边缘智能（EI）近年来得到广泛应用。在设备、边缘服务器和云之间分割模型可以大幅提升EI性能。先前工作已深入研究了无用户移动性情况下的模型分割。然而，在大多数EI使用场景中，终端设备是移动的。目前仅有少数工作涉及这一方面，且仍存在许多问题，例如忽略移动设备能耗、网络假设不当、对用户移动性的适应效果不佳等。因此，为解决先前工作中模型分割和资源分配的不足，我们提出了移动性与成本感知的模型分割和资源分配算法（MCSA），用于加速边缘推理。具体地，在无用户移动性场景下，提出了循环迭代梯度下降（Li-GD）算法。当移动用户有大型模型推理任务需要计算时，算法会综合考虑移动用户能耗、通信和计算资源租用成本以及推理延迟，以找到最优模型分割和资源分配策略。在存在用户移动性的场景下，提出了移动性感知的Li-GD（MLi-GD）算法来计算最优策略。然后，研究了所提算法的性质，包括收敛性、复杂度和近似比。实验结果证明了所提算法的有效性。