具有理论保证的训练联邦GAN：一种通用聚合方法
机器学习
2021-02-10 v1 人工智能
摘要
近来，生成对抗网络（GANs）在联邦学习中展现出潜力，即从由多个站点私有托管的数据中学习集中式模型。联邦GAN联合训练一个集中式生成器和托管于不同站点的多个私有判别器。联邦GAN的一个主要理论挑战是本地数据分布的异质性。传统方法无法保证学到目标分布，该目标是高度不同的本地分布的混合。本文解决这一理论挑战，并首次为联邦GAN提供了一个可证明正确的框架。我们提出一种称为通用聚合（Universal Aggregation）的新方法，通过精心聚合所有私有判别器的混合来模拟一个集中式判别器。我们证明，用此模拟的集中式判别器训练的生成器能够学到期望的目标分布。通过合成与真实数据集，我们表明我们的方法能够学到差异巨大的分布混合，而现有联邦GAN方法在此失效。
引用
@article{arxiv.2102.04655,
title = {Training Federated GANs with Theoretical Guarantees: A Universal Aggregation Approach},
author = {Yikai Zhang and Hui Qu and Qi Chang and Huidong Liu and Dimitris Metaxas and Chao Chen},
journal= {arXiv preprint arXiv:2102.04655},
year = {2021}
}