EFFGAN：微调联邦 GAN 集成
机器学习
2022-11-01 v2
摘要
生成对抗网络已被证明是学习复杂高维数据分布的有力工具，但已有研究表明模式崩溃等问题使其难以训练。在联邦学习设定中，当数据分散于多个客户端且无法共享时，这一问题更为困难，因为客户端漂移和非独立同分布（non-iid）数据等问题使联邦平均难以收敛。本文中，我们研究在训练数据于客户端上异构分散且不可共享的情况下，如何学习数据分布这一任务。我们的目标是在中心处从该分布采样，而数据从不离开客户端。我们使用标准基准图像数据集表明，现有方法在此设定下会失败，当本地训练轮数过大时会出现所谓的客户端漂移。因此我们提出一种称为 EFFGAN：微调联邦 GAN 集成（Ensembles of fine-tuned federated GANs）的新方法。作为本地专家生成器的集成，EFFGAN 能够学习所有客户端上的数据分布并缓解客户端漂移。它可使用大量本地轮数进行训练，从而比以往工作具有更高的通信效率。
引用
@article{arxiv.2206.11682,
title = {EFFGAN: Ensembles of fine-tuned federated GANs},
author = {Ebba Ekblom and Edvin Listo Zec and Olof Mogren},
journal= {arXiv preprint arXiv:2206.11682},
year = {2022}
}