无线网状网络上边缘侧的去中心化联邦学习
信号处理
2023-11-03 v1
摘要
物联网(IoT)设备的快速增长产生了海量数据,催生了联邦学习这一新型分布式机器学习范式。联邦学习支持在边缘进行模型训练,利用边缘设备的处理能力,同时保护隐私并缓解数据传输瓶颈。然而,传统的集中式联邦学习架构存在单点故障且易受恶意攻击。在本研究中,我们深入探讨一种替代方法,称为去中心化联邦学习(DFL),其以无线网状网络作为通信骨干进行。我们利用随机几何理论和物理干扰模型进行全面的网络性能分析,为 DFL 的收敛分析提供新的见解。此外,我们进行系统仿真,以在各种网络参数和不同聚合方法(如 FedAvg、Krum 和 Median 方法)下评估所提去中心化架构。我们的模型在广泛认可的 EMNIST 数据集上训练,用于手写数字分类基准测试。为最小化边缘侧模型大小并减少通信开销,我们采用基于遗传算法的尖端压缩技术。仿真结果显示,压缩后的去中心化架构在分类任务的准确率和平均损失方面达到与基线集中式架构和传统 DFL 相当的性能。此外,与基线相比,其通过将参与方的本地模型大小压缩至原始大小近一半,显著减少了无线信道上共享模型的大小,有效降低了复杂度和通信开销。
引用
@article{arxiv.2311.01186,
title = {Decentralized Federated Learning on the Edge over Wireless Mesh Networks},
author = {Abdelaziz Salama and Achilleas Stergioulis and Syed Ali Zaidi and Des McLernon},
journal= {arXiv preprint arXiv:2311.01186},
year = {2023}
}