面向超低功耗边缘系统的灵活全量化超轻量TinyissimoYOLO

本文部署并探索了TinyissimoYOLO的多种变体，这是一种高度灵活且全量化的超轻量级目标检测网络，专为功耗仅数毫瓦的边缘系统设计。通过实验测量，我们给出了该网络检测性能的全面表征，探讨了输入分辨率、目标类别数和隐藏层调整等多种参数的影响。我们将TinyissimoYOLO的变体部署于最先进的超低功耗极端边缘平台，深入比较了延迟、能效及其高效并行化工作负载的能力。特别地，本文比较了新型并行RISC-V处理器（Greenwaves的GAP9）在启用与未启用其片上硬件加速器时，与ARM Cortex-M7核心（意法半导体的STM32H7）、两个ARM Cortex-M4核心（STM的STM32L4与Ambiq的Apollo4b）以及带CNN硬件加速器的多核平台（Analog Devices MAX78000）的差异。实验结果显示，GAP9的硬件加速器实现了最低推理延迟与能耗，分别为2.12ms和150uJ，比次优平台MAX78000快约2倍且能效高20%。GAP9的硬件加速器甚至可在3.2ms内运行分辨率为112x112像素、含10个检测类的增强分辨率版TinyissimoYOLO，能耗245uJ。为展示通用系统的竞争力，我们还在GAP9上部署并分析了不同工作点的多核实现，以最低延迟配置达11.3ms，以最节能配置耗490uJ。通过本文，我们证明了TinyissimoYOLO在最先进检测数据集上用于实时超低功耗边缘推理的适用性与灵活性。