Q-YOLO：面向实时目标检测的高效推理
计算机视觉与模式识别
2023-07-12 v1
摘要
实时目标检测在各种计算机视觉应用中起着至关重要的作用。然而，由于高计算和内存需求，在资源受限平台上部署实时目标检测器面临挑战。本文描述了一种低位宽量化方法以构建高效的一阶段检测器，称为 Q-YOLO，其能有效解决传统量化 YOLO 模型中因激活分布不平衡导致的性能退化问题。Q-YOLO 引入了具有精心设计的基于单边直方图（UH）激活量化方案的全端到端训练后量化（PTQ）流水线，该方案通过直方图分析最小化均方误差（MSE）量化误差来确定最大截断值。在 COCO 数据集上的大量实验证明了 Q-YOLO 的有效性，其优于其他 PTQ 方法，同时实现了精度与计算成本间更优的平衡。本研究有助于推进目标检测模型在资源受限边缘设备上的高效部署，以更低的计算和内存开销实现实时检测。
引用
@article{arxiv.2307.04816,
title = {Q-YOLO: Efficient Inference for Real-time Object Detection},
author = {Mingze Wang and Huixin Sun and Jun Shi and Xuhui Liu and Baochang Zhang and Xianbin Cao},
journal= {arXiv preprint arXiv:2307.04816},
year = {2023}
}