GRP-FED：通过全局正则化个性化解决联邦学习中的客户端不平衡问题
机器学习
2021-09-01 v1 人工智能
摘要
由于现实中的数据呈长尾分布，联邦学习（FL）在跨分散客户端进行训练时面临实际应用的挑战。我们提出全局正则化个性化（GRP-FED），通过为每个客户端考虑单一全局模型和多个局部模型来解决数据不平衡问题。通过自适应聚合，全局模型公平对待多个客户端并缓解全局长尾问题。每个局部模型从本地数据学习并与其分布对齐以实现定制。为防止局部模型仅过拟合，GRP-FED 应用对抗判别器对学到的全局-局部特征之间进行正则化。大量结果表明，我们的 GRP-FED 在真实世界 MIT-BIH 和合成 CIFAR-10 数据集上的全局和局部场景中均有所提升，取得了可比性能并解决了客户端不平衡问题。
引用
@article{arxiv.2108.13858,
title = {GRP-FED: Addressing Client Imbalance in Federated Learning via Global-Regularized Personalization},
author = {Yen-Hsiu Chou and Shenda Hong and Chenxi Sun and Derun Cai and Moxian Song and Hongyan Li},
journal= {arXiv preprint arXiv:2108.13858},
year = {2021}
}
备注
(FL-ICML'21) International Workshop on Federated Learning for User Privacy and Data Confidentiality in Conjunction with ICML 2021