U-TOE:面向低功耗物联网的通用TinyML板载评估工具包
机器学习
2024-03-15 v2 性能
摘要
TinyML社区的研究结果表明,即使在基于小型微控制器的设备上,也可以直接在终端自身上执行机器学习模型。然而迄今为止,该领域的从业者缺乏便捷的一体化工具包来帮助他们评估在任意低功耗物联网硬件上执行任意模型的可行性。为此,我们在本文中提出U-TOE,这是我们设计的一个通用工具包,旨在通过结合低功耗嵌入式操作系统、通用模型转译器与编译器、集成性能测量模块以及开放访问的远程物联网测试床的功能,来简化物联网设计者与研究者的任务。我们提供了U-TOE的开源实现,并展示了其基于流行微控制器架构在多种低功耗物联网板上对各种模型性能进行实验评估的使用方式。U-TOE允许在多种物联网硬件上一次性轻松进行可复现且可定制的对比评估实验。此类U-TOE工具包的提供有助于加速人工智能与物联网融合的研究,以充分挖掘边缘计算的潜力。
引用
@article{arxiv.2306.14574,
title = {U-TOE: Universal TinyML On-board Evaluation Toolkit for Low-Power IoT},
author = {Zhaolan Huang and Koen Zandberg and Kaspar Schleiser and Emmanuel Baccelli},
journal= {arXiv preprint arXiv:2306.14574},
year = {2024}
}
备注
to be published in the proceedings of IFIP/IEEE PEMWN 2023