中文

具有域泛化能力的联邦学习

机器学习 2023-01-10 v2

摘要

联邦学习(Federated Learning, FL)使一组客户端能够在中心化服务器的帮助下联合训练机器学习模型。客户端在训练期间无需将其本地数据提交给服务器,因此客户端的本地训练数据受到保护。在 FL 中,分布式客户端独立收集其本地数据,因此每个客户端的数据集可能自然形成一个不同的源域。在实践中,在多个源域上训练的模型在未见过的目标域上可能具有较差的泛化性能。为了解决这个问题,我们提出 FedADG 以赋予联邦学习域泛化能力。FedADG 采用联邦对抗学习方法,通过将每个分布与参考分布匹配来测量和对齐不同源域之间的分布。参考分布是自适应生成的(通过容纳所有源域),以最小化对齐期间的域偏移距离。在 FedADG 中,对齐是细粒度的,因为每个类别是独立对齐的。这样,学习到的特征表示被认为是通用的,因此可以在未见过的域上很好地泛化。在各种数据集上的大量实验表明,FedADG 与 state-of-the-art 具有相当的性能。

关键词

引用

@article{arxiv.2111.10487,
  title  = {Federated Learning with Domain Generalization},
  author = {Liling Zhang and Xinyu Lei and Yichun Shi and Hongyu Huang and Chao Chen},
  journal= {arXiv preprint arXiv:2111.10487},
  year   = {2023}
}

备注

16 pages, 7 figures