AI 边缘平台上快速精炼检测器的开发

随着目标检测网络的改进，多种目标检测网络的变体已取得了令人印象深刻的性能。然而，大多数模型的性能评估集中于检测精度，且性能验证多基于高端 GPU 硬件。在本文中，我们提出了实时目标检测器，可保证嵌入式平台上实时系统的均衡性能。所提模型利用了 RefineDet 模型的基本头部结构，该模型是单发多框检测器（SSD）的一种变体。为确保实时性能，采用了层数相对较浅或参数较少的 CNN 模型作为骨干结构。除基本的 VGGNet 与 ResNet 结构外，还为此使用了 MobileNet、Xception、ResNeXt、Inception-SENet 与 SE-ResNeXt 等多种骨干结构。通过中间层的适当组合，实现了目标检测网络的成功训练。所提检测器的精度通过 MS-COCO 2017 目标检测数据集的评估进行估计，并在 NVIDIA Drive PX2 与 Jetson Xavier 板上测试了推理速度，以验证嵌入式系统中的实时性能。实验表明，所提模型在嵌入式系统环境中确保了精度与推理速度的均衡性能。此外，与高端 GPU 不同，嵌入式 GPU 的使用涉及若干高效推理的额外考量，本文已对其加以识别。代码与模型已公开于网络（链接）。