有损无线网络中面向时延敏感深度学习的丢包容忍分割推理
信号处理
2021-04-29 v1 分布式、并行与集群计算
机器学习
摘要
分布式推理框架是一种由资源受限物联网（IoT）设备上前沿深度机器学习（ML）赋能的实时应用新兴技术。在分布式推理中，计算任务通过有损 IoT 网络从 IoT 设备卸载到其他设备或边缘服务器。然而，窄带有损的 IoT 网络导致不可忽略的丢包与重传，从而产生不可忽略的通信时延。本研究解决了有损 IoT 网络中由丢包引起的增量重传时延问题。我们提出一种无重传分割推理（SI-NR）方法，即使发生丢包，也能在不进行任何重传的情况下实现高精度。在 SI-NR 中，关键思想是通过 dropout 方法（随机丢弃 DNN 层中隐藏单元的输出）来模拟丢包以训练 ML 模型。这使得 SI-NR 系统获得对抗丢包的鲁棒性。我们的 ML 实验评估表明，在 60% 丢包率下，SI-NR 无需丢包重传即可获得准确预测。
引用
@article{arxiv.2104.13629,
title = {Packet-Loss-Tolerant Split Inference for Delay-Sensitive Deep Learning in Lossy Wireless Networks},
author = {Sohei Itahara and Takayuki Nishio and Koji Yamamoto},
journal= {arXiv preprint arXiv:2104.13629},
year = {2021}
}