面向非独立同分布客户端的基于 GAN 数据合成的联邦学习
机器学习
2022-06-14 v1
摘要
联邦学习 (FL) 近年来作为一种流行的隐私保护协作学习范式而出现。然而，它受限于客户端间非独立同分布 (non-IID) 数据的问题。本文提出一种新颖框架，称为合成数据辅助联邦学习 (SDA-FL)，通过共享合成数据来解决此 non-IID 挑战。具体而言，每个客户端预训练一个本地生成对抗网络 (GAN) 以生成差分隐私合成数据，这些数据被上传至参数服务器 (PS) 以构建全局共享合成数据集。为合成数据集生成可靠的伪标签，我们还提出了一种由 PS 执行的迭代伪标注机制。将本地私有数据集与带有可靠伪标签的合成数据集结合，使得客户端间数据分布近乎一致，从而提升本地模型间的一致性并有益于全局聚合。大量实验证明，所提框架在监督与半监督设置下的多个基准数据集上大幅优于基线方法。
引用
@article{arxiv.2206.05507,
title = {Federated Learning with GAN-based Data Synthesis for Non-IID Clients},
author = {Zijian Li and Jiawei Shao and Yuyi Mao and Jessie Hui Wang and Jun Zhang},
journal= {arXiv preprint arXiv:2206.05507},
year = {2022}
}
备注
8 pages. To be published in the International Workshop on Trustworthy Federated Learning in Conjunction with IJCAI 2022 (FL-IJCAI'22)