面向微型机器学习的高效神经网络：综述
机器学习
2023-11-21 v1 机器学习
统计计算
摘要
微型机器学习（TinyML）领域因其能够在资源受限设备上实现智能应用而受到广泛关注。本综述深入分析了高效神经网络的进展，以及面向 TinyML 应用的超低功耗微控制器（MCU）上深度学习模型的部署。首先介绍神经网络并讨论其架构与资源需求。随后探讨基于 MEMS 的超低功耗 MCU 应用，强调其在资源受限设备上实现 TinyML 的潜力。综述的核心围绕面向 TinyML 的高效神经网络展开，涵盖模型压缩、量化和低秩分解等技术，这些技术针对 MCU 上极小资源占用优化神经网络架构。接着深入讨论超低功耗 MCU 上深度学习模型的部署，应对计算能力与内存资源有限等挑战。模型剪枝、硬件加速和算法-架构协同设计等技术作为高效部署策略被讨论。最后，综述概述了该领域当前的局限，包括模型复杂度与资源约束之间的权衡。总体而言，本综述全面分析了面向超低功耗 MCU 上 TinyML 的高效神经网络与部署策略，并指明了在资源受限设备上释放 TinyML 应用全部潜力的未来研究方向。
引用
@article{arxiv.2311.11883,
title = {Efficient Neural Networks for Tiny Machine Learning: A Comprehensive Review},
author = {Minh Tri Lê and Pierre Wolinski and Julyan Arbel},
journal= {arXiv preprint arXiv:2311.11883},
year = {2023}
}
备注
39 pages, 9 figures, 5 tables