带有提前退出与分割的神经网络计算卸载的真实世界建模
网络与互联网体系结构
2025-05-29 v1 信号处理
摘要
我们关注基于卷积神经网络（CNN）的应用从移动设备（如移动机器人或自动驾驶车辆）通过移动网络向多接入边缘计算（MEC）服务器的计算卸载。为了减少整体 CNN 推理时间，我们设计并实现了带有提前退出和分割的 CNN，允许灵活的部分或完全卸载 CNN 推理。通过真实世界实验，我们在实际的交通标志识别任务中分析了 CNN 推理卸载对总 CNN 处理延迟、能耗和分类精度的影响。结果证实，与完全本地处理相比，带有提前退出和分割的 CNN 卸载可以显著减少总处理延迟和能耗，同时不损害分类精度。基于真实世界实验的结果，我们推导了与带有提前退出和分割的 CNN 卸载相关的能耗和总处理延迟的实用模型。
引用
@article{arxiv.2505.22149,
title = {Real-World Modeling of Computation Offloading for Neural Networks with Early Exits and Splits},
author = {Jan Danek and Zdenek Becvar and Adam Janes},
journal= {arXiv preprint arXiv:2505.22149},
year = {2025}
}
备注
6 pages, 8 figures, This work has been submitted to IEEE GLOBECOM 2025 for peer review