基于潜在空间反向的联邦域泛化

联邦域泛化 (FedDG) 解决了联邦学习框架下各客户端之间分布迁移的问题。FedDG 方法聚合本地客户端训练得到的模型参数，以形成能对未见客户端具有广泛性且保持数据隐私的全局模型。虽然改善了全局模型的泛化能力，但许多现有方法在 FedDG 中通过共享客户端数据统计信息来实现这一点，却可能危及隐私。我们的解决方案通过提出新的方式进行本地客户端训练和模型聚合来解决这一问题。为改进本地客户端训练，我们通过一种新颖技术——潜在空间反向 (latent space inversion)——在本地模型之间强制实现 (域) 不变性，以帮助更好地保护客户端隐私。当客户端不具备独立同分布性时，对其本地模型进行聚合可能会丢弃某些本地适应性。为克服这一问题，我们提出了一种重要权重聚合策略，以优先选择在聚合期间对本地模型预测具有显著影响的参数。我们的大量实验表明，我们的方法在通信开销更低的情况下，优于现有方法。