SmartDet:面向移动目标检测的上下文感知边缘任务卸载动态控制
分布式、并行与集群计算
2022-01-13 v1 计算机视觉与模式识别
机器学习
网络与互联网体系结构
摘要
移动设备日益依赖通过深度神经网络(DNNs)进行的目标检测(OD)来执行关键任务。由于其高复杂性,这些 DNN 的执行需要过多的时间和能量。低复杂度的目标跟踪(OT)可与 OD 配合使用,其中后者被周期性应用以生成用于跟踪的“新鲜”参考。然而,经 OD 处理的帧会带来较大延迟,这可能使参考过时并降低跟踪质量。为此,我们提出在此背景下使用边缘计算,并建立对大 OD 延迟具有弹性的并行 OT(在移动设备上)与 OD(在边缘服务器上)流程。我们提出了 Katch-Up,一种提升系统对过度 OD 延迟韧性的新型跟踪机制。然而,尽管 Katch-Up 显著提升了性能,它也增加了移动设备的计算负载。因此,我们设计了 SmartDet,一种基于深度强化学习(DRL)的低复杂度控制器,学习控制资源利用与 OD 性能之间的权衡。SmartDet 以与当前视频内容和当前网络条件相关的上下文信息作为输入,以优化 OD 卸载的频率与类型,以及 Katch-Up 的利用。我们在一个由作为移动设备的 JetSon Nano 和作为边缘服务器的 GTX 980 Ti 通过 Wi-Fi 链路连接组成的真实世界测试平台上对 SmartDet 进行了广泛评估。实验结果表明,SmartDet 在跟踪性能——平均平均召回率(mAR)与资源使用之间实现了最优平衡。相对于采用完全 Katch-Up 使用和最大信道使用的基线,我们仍在使用少 50% 的信道和与 Katch-Up 相关的 30% 功耗资源的情况下将 mAR 提升了 4%。相对于使用最少资源的固定策略,我们在 1/3 的帧上使用 Katch-Up 的同时将 mAR 提升了 20%。
引用
@article{arxiv.2201.04235,
title = {SmartDet: Context-Aware Dynamic Control of Edge Task Offloading for Mobile Object Detection},
author = {Davide Callegaro and Francesco Restuccia and Marco Levorato},
journal= {arXiv preprint arXiv:2201.04235},
year = {2022}
}