BiSwift：面向边缘多流视频分析的带宽编排器
网络与互联网体系结构
2024-02-06 v2 计算机视觉与模式识别
机器学习
摘要
用于监控和道路交通的高清（HD）摄像头经历了巨大增长，需要密集的计算资源进行实时分析。最近，将帧从前端设备卸载到后端边缘服务器显示出巨大潜力。在多流竞争环境中，高效的带宽管理和适当的调度对于确保高推理精度和高吞吐量至关重要。为了实现这一目标，我们提出了BiSwift，这是一个双层框架，通过一种新颖的自适应混合编解码器（集成多级流水线）和用于多个视频流的全局带宽控制器来扩展并发实时视频分析。下层的前后端协作机制（称为自适应混合编解码器）局部优化精度并加速单个流的端到端视频分析。上层的调度器通过全局带宽控制器旨在实现多个流之间的精度公平性。BiSwift的评估表明，BiSwift能够在仅配备NVIDIA RTX3070（8G）GPU的边缘设备上对9个流进行实时目标检测。与最先进的视频分析流水线相比，BiSwift提高了10%~21%的精度，并实现了1.2~9倍的吞吐量。
引用
@article{arxiv.2312.15740,
title = {BiSwift: Bandwidth Orchestrator for Multi-Stream Video Analytics on Edge},
author = {Lin Sun and Weijun Wang and Tingting Yuan and Liang Mi and Haipeng Dai and Yunxin Liu and Xiaoming Fu},
journal= {arXiv preprint arXiv:2312.15740},
year = {2024}
}
备注
Accepted by 2024 IEEE INFOCOM