减少量化 YOLO 网络训练中的振荡副作用
计算机视觉与模式识别
2023-11-10 v1 机器学习
摘要
量化网络使用更少的计算和内存资源，适合部署在边缘设备上。虽然量化感知训练（QAT）是将网络量化为低精度的成熟方法，但大多数研究聚焦于分类的过参数化网络，对如 YOLO 这类流行且对边缘设备友好的单阶段目标检测与语义分割方法的研究有限。此外，多数 QAT 方法依赖于直通估计器（STE）近似，其受振荡现象困扰，导致次优的网络量化。在本文中，我们表明，由于振荡问题，即使采用 SOTA QAT 方法，也难以为高效的 YOLO 模型实现极低精度（4 位及以下），且现有克服该问题的方法在这些模型上效果不佳。为减轻振荡影响，我们首先提出基于指数移动平均（EMA）的 QAT 模型更新。进一步，我们提出一种简单的 QAT 修正方法，即 QC，它在标准 QAT 流程后仅训练单个 epoch 以修正由振荡权重和激活引起的误差，从而得到更精确的量化模型。通过在 COCO 数据集上使用多种 YOLO5 和 YOLO7 变体进行广泛评估，我们表明我们的修正方法在低精度（4 位和 3 位）下持续提升了量化的 YOLO 网络在目标检测和分割任务上的表现。
引用
@article{arxiv.2311.05109,
title = {Reducing the Side-Effects of Oscillations in Training of Quantized YOLO Networks},
author = {Kartik Gupta and Akshay Asthana},
journal= {arXiv preprint arXiv:2311.05109},
year = {2023}
}
备注
WACV 2024