联邦生成对抗学习

本工作研究在联邦学习设定下训练生成对抗网络。生成对抗网络（GANs）已在各种现实应用中取得进展，例如图像编辑、风格迁移、场景生成等。然而，与其他深度学习模型一样，GANs 在实际情况中也面临数据有限的问题。为了提升 GANs 在目标任务上的性能，从不同的来源尽可能多地收集图像不仅重要而且必不可少。例如，为了构建鲁棒且准确的生物特征验证系统，可能需要从监控摄像头收集大量图像，和/或由接受协议的用户从手机上传。在理想情况下，利用从公共和私有设备上传的所有那些数据进行模型训练是直接的。不幸的是，在实际场景中，由于若干原因这很困难。首先，一些数据面临严重的泄露担忧，因此将其上传至第三方服务器进行模型训练是不可行的；其次，由不同种类设备收集的图像，可能由于各种因素（例如，收集者偏好、地理位置差异）而具有显著的偏差，这也被称为“域偏移”。为了处理这些问题，我们提出了一种利用联邦学习框架的新颖生成学习方案。遵循联邦学习的配置，我们在一个中心和一组客户端上进行模型训练与聚合。具体而言，我们的方法在客户端中学习分布式生成模型，而每个客户端中训练得到的模型在中心被融合为一个统一且通用的模型。我们进行了大量实验来比较不同的联邦策略，并实证检验了在不同并行程度和数据偏斜下的联邦有效性。