中文

要离开还是不要离开:面向加速器时代的边缘原生与本地处理的模型驱动比较

分布式、并行与集群计算 2026-02-09 v4

摘要

计算卸载是一种有前景的做法,通过将应用程序的某些或全部计算移动到远程服务器来克服客户端设备的资源限制。随着专用硬件加速器的出现,客户端设备现在能够对特定任务(如机器学习推理)进行快速本地处理,从而减少对卸载计算的需求。然而,配备加速器的边缘服务器也提供了比以往更快的处理速度,以处理卸载任务。本文提出了一种基于模型的实验和实验比较,评估了在各种加速器、网络、多租户和应用程序工作负载情景下本地端设备处理与边缘卸载的策略,以理解何时使用本地端设备处理,何时进行计算卸载。我们提出的模型利用分析性排队结果,推导出端到端延迟两种策略的可解释闭式公式,提供精确的、定量的性能交叉预测,指导自适应卸载。我们在各种情景下对模型进行实验验证,表明它们与观察到的延迟之间平均绝对百分比误差为 2.2%。我们进一步利用这些模型开发了用于自适应卸载的资源管理器,并展示了其在可变网络条件和动态多租户边缘环境下的有效性。

关键词

引用

@article{arxiv.2504.15162,
  title  = {To Offload or Not To Offload: Model-driven Comparison of Edge-native and On-device Processing In the Era of Accelerators},
  author = {Nathan Ng and David Irwin and Ananthram Swami and Don Towsley and Prashant Shenoy},
  journal= {arXiv preprint arXiv:2504.15162},
  year   = {2026}
}