YOLObile：通过压缩-编译协同设计在移动设备上实现实时目标检测
计算机视觉与模式识别
2021-01-01 v2 人工智能
机器学习
摘要
目标检测技术的快速发展和广泛应用引起了人们对检测器精度与速度的关注。然而，当前最先进的目标检测工作要么使用大型模型以精度为导向但导致高延迟，要么使用轻量模型以速度为导向但牺牲精度。本工作中，我们提出 YOLObile 框架，一种通过压缩-编译协同设计在移动设备上实现实时目标检测的方案。提出一种适用于任意核尺寸的块打孔剪枝方案。为提升移动设备上的计算效率，采用了 GPU-CPU 协作方案以及先进的编译器辅助优化。实验结果表明，我们的剪枝方案以 49.0 mAP 实现 YOLOv4 的 14 压缩率。在 YOLObile 框架下，我们在 Samsung Galaxy S20 上使用 GPU 达到 17 FPS 推理速度。通过结合我们提出的 GPU-CPU 协作方案，推理速度提升至 19.1 FPS，并以 5 加速优于原始 YOLOv4。源代码见：\url{https://github.com/nightsnack/YOLObile}。
引用
@article{arxiv.2009.05697,
title = {YOLObile: Real-Time Object Detection on Mobile Devices via Compression-Compilation Co-Design},
author = {Yuxuan Cai and Hongjia Li and Geng Yuan and Wei Niu and Yanyu Li and Xulong Tang and Bin Ren and Yanzhi Wang},
journal= {arXiv preprint arXiv:2009.05697},
year = {2021}
}