噪声无线信道下协作推理的自适应提前退出
机器学习
2023-12-01 v1 信息论
网络与互联网体系结构
math.IT
摘要
协作推理系统是在无线网络边缘部署深度神经网络（DNNs）的新兴解决方案之一。其主要思想是将DNN划分为两部分，其中第一部分足够浅，可在计算能力受限的边缘设备可靠执行，而第二部分在具有更高计算能力的边缘服务器上执行。此类系统的主要优势在于，随着浅层部分后续层仅提取任务所需信息，DNN的输入被压缩。因此，与传输原始输入样本相比，可实现显著的通信节省。本工作中，我们研究协作推理场景中的提前退出，其允许在某些样本上于边缘设备获得推理结果，而无需将部分处理的数据传输至边缘服务器，从而进一步节省通信。我们系统的核心是基于传输决策（TD）机制，该机制给定来自提前退出和无线信道状态的信息，决定是否保留提前退出预测或将数据传输至边缘服务器作进一步处理。本文评估了多种TD机制，并通过实验表明，在无线边缘上的图像分类任务中，对提前退出的恰当利用可同时带来性能提升与显著的通信节省。
引用
@article{arxiv.2311.18098,
title = {Adaptive Early Exiting for Collaborative Inference over Noisy Wireless Channels},
author = {Mikolaj Jankowski and Deniz Gunduz and Krystian Mikolajczyk},
journal= {arXiv preprint arXiv:2311.18098},
year = {2023}
}