TinyissimoYOLO:一种用于低功耗微控制器的量化、低内存占用TinyML目标检测网络
计算机视觉与模式识别
2023-11-06 v2 硬件体系结构
图像与视频处理
摘要
本文介绍了一种高度灵活、量化、内存高效且超轻量的目标检测网络,称为TinyissimoYOLO。其旨在毫瓦级功耗域的微控制器上实现目标检测,且可用于存储卷积神经网络(CNN)权重的可用内存小于0.5MB。所提出的具有422k参数的量化网络架构能够在嵌入式微控制器上实现实时目标检测,并已评估可充分利用CNN加速器。特别地,该网络已部署于MAX78000微控制器,实现了高达180fps的高帧率,以及每次推理仅196μJ的超低能耗,推理效率超过106 MAC/Cycle。TinyissimoYOLO可针对任意多目标检测进行训练。然而,考虑到网络规模较小,增加目标检测类别将增大网络规模与内存消耗,因此本文展示了最多3类的目标检测。此外,该网络使用量化感知训练(quantization-aware training)进行训练,并以8-bit量化部署于不同微控制器,如STM32H7A3、STM32L4R9、Apollo4b以及MAX78000的CNN加速器上。本文给出了性能评估。
引用
@article{arxiv.2306.00001,
title = {TinyissimoYOLO: A Quantized, Low-Memory Footprint, TinyML Object Detection Network for Low Power Microcontrollers},
author = {Julian Moosmann and Marco Giordano and Christian Vogt and Michele Magno},
journal= {arXiv preprint arXiv:2306.00001},
year = {2023}
}
备注
Published In: 2023 IEEE 5th International Conference on Artificial Intelligence Circuits and Systems (AICAS)