LEAP：基于联盟形成博弈的非IID数据分层联邦学习优化方法
计算机科学与博弈论
2024-05-02 v1
摘要
尽管分层联邦学习（HFL）利用边缘服务器（ES）来缓解通信负担，但由于非IID数据和有限的通信资源，其模型性能将受到降低。当前工作常假设数据分布均匀，这与物联网的异构性相矛盾。通过额外模型训练来检查数据分布的解决方案不可避免地增加计算成本并增加隐私泄露风险。解决这些问题的挑战在于如何在不涉及原始数据的情况下减少非IID数据的影响，以及如何合理分配通信资源以解决迟到问题。为此，我们提出了一种基于共轴形成博弈和梯度投影的新型优化方法，称为LEAP。具体而言，我们创新性地将边缘数据分布与联盟形成博弈结合，以动态调整客户与ES之间的相关性，从而确保最佳相关性。我们进一步捕捉客户的异构性，通过联盟感知实现合理的带宽分配，并在客户层面内确定给定延迟约束下的 optimal transmission power。实验在四个真实数据集上表明，LEAP相较于当前最先进的基线方法在模型准确率上提高了20.62%。此外，LEAP有效地将传输能耗降低了至少约2.24倍。
引用
@article{arxiv.2405.00579,
title = {LEAP: Optimization Hierarchical Federated Learning on Non-IID Data with Coalition Formation Game},
author = {Jianfeng Lu and Yue Chen and Shuqin Cao and Longbiao Chen and Wei Wang and Yun Xin},
journal= {arXiv preprint arXiv:2405.00579},
year = {2024}
}