TinyOL：微控制器上具备在线学习的 TinyML
机器学习
2021-04-13 v3 分布式、并行与集群计算
系统与控制
系统与控制
摘要
微型机器学习（TinyML）是一个快速发展的研究领域，致力于让深度学习中所有普遍存在的微控制器（MCUs）普及化。受功耗、内存和计算限制的约束，TinyML 在过去几年中取得了显著进展。然而，当前的 TinyML 解决方案基于批处理/离线设置，仅支持神经网络在 MCU 上的推理。神经网络首先使用大量预收集数据在强大机器上训练，然后烧录到 MCU 中。这导致模型静态化，难以适应新数据，也无法针对不同场景调整，阻碍了物联网（IoT）的灵活性。为解决这些问题，我们提出了一种称为 TinyOL（具备在线学习的 TinyML）的新系统，它支持在流式数据上进行增量式的设备端训练。TinyOL 基于在线学习的概念，适用于受限的 IoT 设备。我们在有监督和无监督设置下使用自编码器神经网络对 TinyOL 进行了实验。最后，我们报告了所提方案的性能并展示了其有效性与可行性。
引用
@article{arxiv.2103.08295,
title = {TinyOL: TinyML with Online-Learning on Microcontrollers},
author = {Haoyu Ren and Darko Anicic and Thomas Runkler},
journal= {arXiv preprint arXiv:2103.08295},
year = {2021}
}
备注
Accepted by The International Joint Conference on Neural Network (IJCNN) 2021