多跳边缘网络中 DNN 推理分区放置与路由的设计见解
网络与互联网体系结构
2026-04-29 v1
摘要
分区 DNN 推理是边缘网络中延迟敏感型智能服务的一种有前景的方法，因为它允许模型的不同部分在终端设备、边缘服务器和云端执行。然而，在多跳边缘网络中，分区放置与推理流量路由本质上是耦合的：原始输入、中间特征和最终输出可能具有截然不同的大小，而候选节点在计算能力上也存在差异。此外，通信和计算延迟在负载下都可能变得依赖于拥塞状况。在本文中，我们研究了异构多跳边缘网络上固定分区 DNN 推理的联合分区放置与路由问题。我们考虑少量 DNN 分区，每个分区恰好放置在一个节点上且无复制，并构建了一个捕获路由与执行成本的拥塞感知混合离散-连续优化问题。为求解该问题，我们开发了一个将分区放置与拥塞感知转发更新相耦合的实用交替框架。通过在层次化、规则、合成不规则以及真实骨干网启发的拓扑上进行数值评估，我们表明拆分灵活性在 IoT-边缘-云设置中尤为重要，而拥塞感知优化随着提供负载的增加变得愈发有益。我们进一步阐明了首选操作点如何依赖于通信与计算的折衷。
引用
@article{arxiv.2604.25571,
title = {Design Insights into Partition Placement and Routing for DNN Inference in Multi-Hop Edge Networks},
author = {Jinkun Zhang and Poonam Yadav},
journal= {arXiv preprint arXiv:2604.25571},
year = {2026}
}