MCUNet：物联网设备上的微型深度学习
计算机视觉与模式识别
2020-11-20 v2
摘要
基于微控制器单元（MCU）的微型物联网设备上的机器学习颇具吸引力但充满挑战：即便与手机相比，微控制器的内存也要小2-3个数量级。我们提出MCUNet，一个联合设计高效神经架构（TinyNAS）与轻量级推理引擎（TinyEngine）的框架，从而在微控制器上实现ImageNet规模的推理。TinyNAS采用两阶段神经架构搜索方法，首先优化搜索空间以适配资源约束，然后在优化后的搜索空间中专门化网络架构。TinyNAS能以较低的搜索成本自动处理多样化约束（即设备、延迟、能耗、内存）。TinyNAS与TinyEngine协同设计，后者是一个内存高效的推理库，用于扩展搜索空间并适配更大的模型。TinyEngine根据整体网络拓扑而非逐层优化来调整内存调度，与TF-Lite Micro和CMSIS-NN相比，内存占用降低4.8倍，推理加速1.7-3.3倍。MCUNet首次在现成商用微控制器上实现>70%的ImageNet top1准确率，与量化MobileNetV2和ResNet-18相比，SRAM少用3.5倍，Flash少用5.7倍。在视觉与音频唤醒词任务上，MCUNet取得了最先进的准确率，并比MobileNetV2和基于ProxylessNAS的方案快2.4-3.4倍，峰值SRAM小3.7-4.1倍。我们的研究表明，物联网设备上始终在线的微型机器学习时代已经到来。代码与模型见：https://tinyml.mit.edu。
引用
@article{arxiv.2007.10319,
title = {MCUNet: Tiny Deep Learning on IoT Devices},
author = {Ji Lin and Wei-Ming Chen and Yujun Lin and John Cohn and Chuang Gan and Song Han},
journal= {arXiv preprint arXiv:2007.10319},
year = {2020}
}
备注
NeurIPS 2020 (spotlight)