将 TinyML 生命周期与大语言模型集成：现实、幻象，还是机会？
摘要
物联网（IoT）应用的不断演变正推动将智能能力带入边缘端的趋势，以便在资源受限的环境中实现实时洞察和决策。Tiny 机器学习（TinyML）作为这一演变的关键使能者，促进了在单片机和嵌入式系统等设备上部署机器学习模型。然而，管理 TinyML 生命周期的复杂性，包括数据处理、模型优化和转换、以及设备部署等阶段， presents significant 挑战，往往需要 substantial 人工介入。为了应对这些挑战，我们开始探索大语言模型（Large Language Models, LLMs）是否可以帮助自动化和简化 TinyML 生命周期。我们开发了一个框架，利用大语言模型的自然语言处理（NLP）和代码生成能力，以减少开发时间并降低 TinyML 部署的门槛。通过针对计算机视觉分类模型的案例研究，我们展示了该框架在自动化 TinyML 生命周期关键阶段方面的能力。我们的发现表明，LLM 驱动的自动化在改进生命周期开发过程和适应多样化需求方面具有潜力。然而，尽管该方法显示出希望，但仍存在障碍和局限性，特别是在实现完全自动化解决方案方面。本文阐明了将大语言模型集成到 TinyML 工作流程中的挑战和机会，为高效、AI 辅助嵌入式系统开发的前进之路提供了见解。
引用
@article{arxiv.2501.12420,
title = {Consolidating TinyML Lifecycle with Large Language Models: Reality, Illusion, or Opportunity?},
author = {Guanghan Wu and Sasu Tarkoma and Roberto Morabito},
journal= {arXiv preprint arXiv:2501.12420},
year = {2025}
}
备注
This paper has been accepted for publication in the IEEE Internet of Things Magazine (Special Issue on Applications of Large Language Models in IoT). The copyright will be transferred to IEEE upon publication. A preliminary version of this work was presented at the Edge AI Foundation event Beyond LLMs and Chatbots: The Journey to Generative AI at the Edge (https://youtu.be/aFWfisdjQIs)