面向标签分布偏移的联邦学习全局分布建模
机器学习
2022-12-20 v1 计算机视觉与模式识别
摘要
联邦学习通过连接分散的数据源实现深度模型的联合训练，可显著降低隐私泄露风险。然而，在更一般的情况下，不同客户端之间的标签分布存在差异，称为“标签分布偏移”。直接应用传统联邦学习而不考虑标签分布偏移问题，会严重损害全局模型的性能。为此，我们提出一种名为 FedMGD 的新型联邦学习方法，以缓解标签分布偏移问题带来的性能下降。该方法引入一个全局生成对抗网络（GAN），在不访问本地数据集的情况下对全局数据分布进行建模，从而使得全局模型能够利用数据分布的全局信息进行训练，且无隐私泄露风险。实验结果表明，在多个公开基准数据集上，我们所提方法显著优于现有最优方法。代码见 \url{https://github.com/Sheng-T/FedMGD}。
引用
@article{arxiv.2212.08883,
title = {Modeling Global Distribution for Federated Learning with Label Distribution Skew},
author = {Tao Sheng and Chengchao Shen and Yuan Liu and Yeyu Ou and Zhe Qu and Jianxin Wang},
journal= {arXiv preprint arXiv:2212.08883},
year = {2022}
}