TinyML 中的去中心化资源共享：用于协作学习的无线双层 Gossip 并行 SGD
机器学习
2026-02-23 v1 人工智能
摘要
随着微控制器单元（MCU）计算能力的增长，边缘设备现在可以支持机器学习模型。然而，在此类设备上部署去中心化联邦学习（DFL）面临关键挑战，包括间歇性连接、有限的通信范围和动态网络拓扑。本文提出了一种新颖的框架——双层 Gossip 去中心化并行随机梯度下降（GD PSGD），旨在解决资源受限环境中的这些问题。该框架采用分层通信结构，使用分布式 Kmeans（DKmeans）聚类进行地理分组，并使用 gossip 协议在簇内和簇间两层进行高效的模型聚合。我们在 IID 和 Non-IID 条件下，使用 MCUNet 模型在 CIFAR-10 数据集上评估了该框架相对于集中式联邦学习（CFL）基线的性能。结果表明，所提出的方法在 IID 数据集上实现了与 CFL 相当的准确率，仅需额外 1.8 轮即可收敛。在 Non-IID 数据集上，对于中等程度的数据不平衡，准确率损失保持在 8% 以下。这些发现突显了该框架在边缘设备上支持可扩展且保护隐私的学习的潜力，且性能折损极小。
引用
@article{arxiv.2501.04817,
title = {Decentralised Resource Sharing in TinyML: Wireless Bilayer Gossip Parallel SGD for Collaborative Learning},
author = {Ziyuan Bao and Eiman Kanjo and Soumya Banerjee and Hasib-Al Rashid and Tinoosh Mohsenin},
journal= {arXiv preprint arXiv:2501.04817},
year = {2026}
}