TOD：跨精度目标检测以最大化边缘端实时精度
分布式、并行与集群计算
2024-04-30 v1
摘要
边缘端的实时视频分析具有挑战性，因为计算受限的资源通常无法以全保真度和帧率分析视频流，从而导致精度损失。本文提出一种跨精度目标检测器（Transprecise Object Detector, TOD），它通过以可忽略的计算开销动态选择合适的深度神经网络（DNN），来最大化边缘设备上的实时目标检测精度。TOD 相对于现有最优技术有两项关键贡献：（1）TOD 利用视频流的特征（如目标尺寸和运动速度）来识别对当前帧具有高预测精度的网络；（2）它使用一种高效且低开销的决策机制，基于预期精度和计算需求选择性能最优的网络。在 Jetson Nano 上的实验评估表明，在 MOT17Det 数据集上，TOD 平均比 YOLOv4-tiny-288 模型的平均目标检测精度提高了 34.7%。在 MOT17-05 测试数据集中，与 YOLOv4-416 模型相比，TOD 仅使用了 45.1% 的 GPU 资源和 62.7% 的 GPU 板载功耗，且未损失精度。我们期望 TOD 能最大化边缘设备在实时目标检测中的应用，因为 TOD 能根据动态输入特征在边缘设备上最大化实时目标检测精度，且实践中不增加推理延迟。
引用
@article{arxiv.2105.08668,
title = {TOD: Transprecise Object Detection to Maximise Real-Time Accuracy on the Edge},
author = {JunKyu Lee and Blesson Varghese and Roger Woods and Hans Vandierendonck},
journal= {arXiv preprint arXiv:2105.08668},
year = {2024}
}