面向边缘高效视频分析的并行检测
分布式、并行与集群计算
2021-07-28 v1 计算机视觉与模式识别
摘要
深度神经网络（DNN）训练的目标检测器被广泛部署于诸多关键任务系统中，用于边缘端实时视频分析，如自动驾驶与视频监控。这些关键边缘服务的常见性能需求是在边缘设备上在线目标检测的近实时延迟。然而，即便采用训练良好的 DNN 目标检测器，边缘端在线检测质量仍可能因若干原因退化，例如异构边缘设备上运行 DNN 目标检测模型容量有限，以及当检测处理速率显著慢于输入视频帧率时随机丢帧导致的检测质量下降。本文通过在含异构边缘设备的边缘系统中利用多模型多设备检测并行来实现快速目标检测，以解决这些问题。首先，我们分析边缘端运行训练良好 DNN 模型进行实时在线目标检测的性能瓶颈。我们以离线检测为参考模型，并通过分析输入视频流速率、目标检测视频处理速率与视频流实时检测可视化输出速率间的不匹配来考察根本原因。其次，我们研究利用多模型检测并行进行性能优化。我们展示模型并行检测方法可有效加速 FPS 检测处理速率，最小化与异构边缘设备上输入视频帧率的 FPS 差距。我们使用 SSD300 与 YOLOv3 在不同视频流速率的基准视频上评估所提方法。结果表明，利用多模型检测并行可加速在线目标检测处理速率，并为边缘高效视频分析提供近实时目标检测性能。
引用
@article{arxiv.2107.12563,
title = {Parallel Detection for Efficient Video Analytics at the Edge},
author = {Yanzhao Wu and Ling Liu and Ramana Kompella},
journal= {arXiv preprint arXiv:2107.12563},
year = {2021}
}