Virtuoso：基于视频的实时SOC调优智能系统
计算机视觉与模式识别
2021-12-28 v1 人工智能
摘要
人们已提出高效且自适应的计算机视觉系统，以使图像分类和目标检测等计算机视觉任务针对嵌入式或移动设备进行优化。这些方案起源颇新，聚焦于通过设计带近似旋钮的自适应系统来优化模型(深度神经网络，DNN)或系统。尽管已有若干近期努力，我们表明现有方案存在两个主要缺陷。第一，系统在决策运行哪个模型时未考虑模型的能耗。第二，评估未考虑设备上因其他共驻工作负载导致的争用这一实际场景。本工作中，我们提出一种高效自适应的视频目标检测系统 Virtuoso，其在准确率、能耗效率和延迟上联合优化。Virtuoso 的底层是一个多分支执行内核，能够在准确率-能耗-延迟轴上不同工作点运行，以及一个轻量级运行时调度器来选择最适配的执行分支以满足用户需求。为公平对比 Virtuoso，我们对15种最先进或广泛使用的协议进行基准测试，包括 Faster R-CNN (FRCNN)、YOLO v3、SSD、EfficientDet、SELSA、MEGA、REPP、FastAdapt，以及我们自研的 FRCNN+、YOLO+、SSD+ 和 EfficientDet+ 自适应变体(我们的变体增强了移动端效率)。凭借该综合基准，Virtuoso 已展现优于上述所有协议的性能，在 NVIDIA Jetson 移动 GPU 上各效率水平均引领准确率前沿。具体而言，Virtuoso 达到了63.9%的准确率，比部分流行目标检测模型高出10%以上，FRCNN 为51.1%，YOLO 为49.5%。
引用
@article{arxiv.2112.13076,
title = {Virtuoso: Video-based Intelligence for real-time tuning on SOCs},
author = {Jayoung Lee and PengCheng Wang and Ran Xu and Venkat Dasari and Noah Weston and Yin Li and Saurabh Bagchi and Somali Chaterji},
journal= {arXiv preprint arXiv:2112.13076},
year = {2021}
}
备注
28 pages, 15 figures, 4 tables, ACM-TODAES