μNAS：面向微控制器的受限神经架构搜索
机器学习
2020-12-09 v3 硬件体系结构
摘要
物联网设备由微控制器单元（MCUs）驱动，其资源极为匮乏：典型的 MCU 可能配备性能较弱的处理器以及约 64 KB 的内存与持久存储，这比深度学习通常所需的计算资源低数个数量级。为此类平台设计神经网络需要在保持高预测性能（准确率）的同时实现低内存与存储占用以及低推理延迟，而这二者之间需要精细的平衡。手动实现这一点极具挑战，因此在本工作中，我们构建了一个称为 μNAS 的神经架构搜索（NAS）系统，以自动化设计此类小巧而强大的 MCU 级网络。μNAS 明确针对 MCU 资源匮乏的三个主要方面：RAM 大小、持久存储和处理速度。μNAS 代表了资源高效模型的重要进展，尤其适用于内存需求在 0.5 KB 到 64 KB 之间的“中端”MCU。我们表明，在多种图像分类数据集上，与现有的 MCU 专业文献及资源高效模型相比，μNAS 能够（a）将 top-1 分类准确率提升至多 4.8%，或（b）将内存占用减少 4–13 倍，或（c）将乘加运算次数减少至少 2 倍。
引用
@article{arxiv.2010.14246,
title = {$\mu$NAS: Constrained Neural Architecture Search for Microcontrollers},
author = {Edgar Liberis and Łukasz Dudziak and Nicholas D. Lane},
journal= {arXiv preprint arXiv:2010.14246},
year = {2020}
}
备注
$\mu$NAS is available at https://github.com/eliberis/uNAS