工业物联网中基于分组客户端选择的数据异质性鲁棒联邦学习
机器学习
2022-02-04 v1 人工智能
分布式、并行与集群计算
摘要
如今，工业物联网（IIoT）已在工业4.0中发挥不可或缺的作用，并为工业智能产生了海量数据。这些数据位于现代工厂中的去中心化设备上。为保护工业数据机密性，联邦学习（FL）被引入以协作训练共享机器学习模型。然而，不同设备收集的本地数据在类别分布上偏斜，降低了工业FL性能。这一挑战已在移动边缘被广泛研究，但它们忽略了快速变化的流式数据以及工厂设备的聚类特性，且更严重的是，它们可能威胁数据安全。在本文中，我们提出FedGS，一种面向5G赋能工业的分层云-边-端FL框架，以在非独立同分布（non-i.i.d.）数据上提升工业FL性能。利用自然聚类的工厂设备，FedGS使用基于梯度的二进制置换算法（GBP-CS）在每个工厂内选择设备子集并构建参与FL训练的同质超级节点。然后，我们提出复合步同步协议来协调这些超级节点内部及之间的训练过程，其对数据异质性表现出极强鲁棒性。所提方法时间高效且能适应动态环境，无需在风险操作中暴露机密工业数据。我们证明FedGS比FedAvg具有更好的收敛性能，并给出FedGS更具通信效率的宽松条件。大量实验表明，FedGS在非独立同分布数据上平均提升准确率3.5%并减少训练轮次59%，证实了其优越的有效性与效率。
引用
@article{arxiv.2202.01512,
title = {Data Heterogeneity-Robust Federated Learning via Group Client Selection in Industrial IoT},
author = {Zonghang Li and Yihong He and Hongfang Yu and Jiawen Kang and Xiaoping Li and Zenglin Xu and Dusit Niyato},
journal= {arXiv preprint arXiv:2202.01512},
year = {2022}
}