RockNet:超低功耗设备上的分布式学习
机器学习
2025-10-27 v2
摘要
随着机器学习(ML)渗透至制导物理系统(CPS),对将训练从传统云端转移到设备端处理(TinyML)的兴趣日益增长,例如出于隐私和延迟方面的考量。然而,CPS往往包含超低功耗微控制器,其有限的计算资源使得训练具有挑战性。本文提出RockNet,一种针对超低功耗硬件的新型TinyML方法,实现了时序分类(如故障或恶意软件检测)的领先精度,无需离线预训练。通过利用CPS由多个设备组成的特性,我们设计了一种集成ML和无线通信的分布式学习方法。RockNet利用所有设备进行专用的、计算高效分类器的分布式训练,这些分类器对并行化的通信开销最小。结合量身定制和高效的无线多跳通信协议,我们的方法克服了分布式学习中常发生的通信瓶颈。在包含20台超低功耗设备的测试平台上进行硬件实验,证明了RockNet的有效性。它能够从零开始学习时序分类任务,凭借最新方法(针对神经网络微控制器训练)实现的准确率提升最高可达2倍。RockNet的分布式ML架构在从单个中心设备扩展到20个设备时,使每个设备的内存、延迟和能耗降低最高可达90%。我们的结果表明,分布式ML、分布式计算与通信的紧密集成,首次实现了在超低功耗硬件上以领先精度进行训练。
引用
@article{arxiv.2510.13320,
title = {RockNet: Distributed Learning on Ultra-Low-Power Devices},
author = {Alexander Gräfe and Fabian Mager and Marco Zimmerling and Sebastian Trimpe},
journal= {arXiv preprint arXiv:2510.13320},
year = {2025}
}