用于基于 DNN 的视频分析并支持增量学习的无服务器云-雾平台

基于 DNN 的视频分析已经赋能了许多新应用（例如自动化零售）。同时，雾设备的普及为开发者提供了更多设计选项以提升性能并节省成本。据我们所知，本文提出了首个充分利用客户端-雾端-云端协同优势以更好地服务于基于 DNN 的视频分析的无服务器系统。具体而言，该系统旨在实现两个目标：1) 通过在客户端、雾端和云环境中审慎管理部署的计算与带宽资源，在较低带宽使用和更短往返时间(RTT)约束下提供最优分析结果。2) 将开发者从繁琐的管理与运维任务中解放出来，包括 DNN 部署、云与雾的资源管理。为此，我们实现了一个称为 VPaaS（Video-Platform-as-a-Service，视频平台即服务）的整体云-雾系统。VPaaS 采用无服务器计算，使开发者能够通过简单编写一组函数（例如模型推理）来构建视频分析流水线，这些函数随后由精心设计的模块编排以处理视频。为节省带宽并降低 RTT，VPaaS 提供了一种新的视频流协议，仅向云端发送低质量视频。部署在云端的 SOTA DNN 能够识别需要进一步在雾端处理的视频帧区域。在雾端，这些区域中被错误识别的标签可使用轻量级 DNN 模型进行纠正。为解决数据漂移问题，我们将有限的人类反馈纳入系统以验证结果，并采用增量学习持续改进我们的系统。评估表明，VPaaS 优于多个 SOTA 系统：它保持高准确率的同时，将带宽使用降低多达 21%，RTT 降低多达 62.5%，云货币成本降低多达 50%。