深度学习目标检测模型在异构边缘设备上的综合评估
计算机视觉与模式识别
2026-05-06 v2 硬件体系结构
分布式、并行与集群计算
机器学习
软件工程
摘要
自动驾驶、智能监控和智慧城市系统等现代应用越来越需要在资源受限的边缘设备上进行目标检测。然而,对于不同目标检测模型在异构边缘设备上以及不同场景复杂度下的表现,人们的理解仍然有限。在本文中,我们在 Raspberry Pi 3、4、5(带/不带 Coral TPU 加速器)、带 AI HAT+ 的 Raspberry Pi 5、Jetson Nano 和 Jetson Orin Nano 上对 YOLOv8(Nano、Small、Medium)、EfficientDet Lite(Lite0、Lite1、Lite2)和 SSD(SSD MobileNet V1、SSDLite MobileDet)进行了基准测试。我们评估了能耗、推理时间和准确率,并进一步检验了准确率如何随输入图像中目标数量的变化而变化。结果表明,在不同模型与设备组合中,准确率、延迟和能效之间存在明显的权衡。SSD MobileNet V1 实现了最低的延迟和能耗,但准确率也最低;而 YOLOv8 Medium 以更高的计算成本实现了最高的准确率。基于 TPU 的 Raspberry Pi 设备提高了 SSD 和 EfficientDet Lite 的效率,但降低了 YOLOv8 的准确率。Orin Nano 在大多数模型系列中提供了最有利的整体平衡。基于目标数量的分析进一步表明,模型在较简单的图像上准确率更为接近,而随着场景复杂度的增加,准确率差距会扩大。
引用
@article{arxiv.2409.16808,
title = {A Comprehensive Evaluation of Deep Learning Object Detection Models on Heterogeneous Edge Devices},
author = {Daghash K. Alqahtani and Muhammad Aamir Cheema and Maria A. Rodriguez and Adel N. Toosi},
journal= {arXiv preprint arXiv:2409.16808},
year = {2026}
}