从Tiny Machine Learning到Tiny Deep Learning：一项综述
机器学习
2025-11-14 v2
摘要
边缘设备的快速增长推动了在边缘端部署人工智能（AI）的需求，催生了Tiny Machine Learning（TinyML）及其日益演变的对应物Tiny Deep Learning（TinyDL）。虽然TinyML最初专注于在微控制器上实现简单的推理任务，但TinyDL的出现标志着范式转向，在资源受限的硬件上部署深度学习模型。本综述提供了从TinyML到TinyDL转变的全面概述，涵盖架构创新、硬件平台、模型优化技术和软件工具链。我们分析了量化、剪枝和神经网络搜索（NAS）等最新方法，审视了从MCU到专用神经加速器的硬件趋势。此外，我们对软件部署框架、编译器和AutoML工具进行了分类，阐述了这些工具如何实现实际的设备学习。综述了计算机视觉、音频识别、医疗保健和工业监控等领域的应用，以说明TinyDL的实际影响。最后，我们确定了包括神经形态计算、联邦TinyDL、边缘原生基础模型以及特定于领域的协同设计方法等新兴方向。本综述旨在为研究人员和实践者提供基础资源，提供生态系统的全面视图，并为未来在边缘AI领域的进一步发展奠定基础。
引用
@article{arxiv.2506.18927,
title = {From Tiny Machine Learning to Tiny Deep Learning: A Survey},
author = {Shriyank Somvanshi and Md Monzurul Islam and Gaurab Chhetri and Rohit Chakraborty and Mahmuda Sultana Mimi and Sawgat Ahmed Shuvo and Kazi Sifatul Islam and Syed Aaqib Javed and Sharif Ahmed Rafat and Anandi Dutta and Subasish Das},
journal= {arXiv preprint arXiv:2506.18927},
year = {2025}
}