中文

寻找你的伙伴:与合适协作者进行个性化联邦学习

机器学习 2022-10-18 v2

摘要

在传统的联邦学习设置中,中央服务器协调一个客户端网络来训练一个全局模型。然而,由于数据异构性,全局模型可能对许多客户端表现不佳。此外,可能不存在可信的中央方来协调客户端,以确保每个客户端都能从他人那里受益。为解决这些问题,我们提出了一种新颖的去中心化框架 FedeRiCo,其中每个客户端可以根据其本地数据分布,从其他客户端学习尽可能多或尽可能少的内容以达到最优。基于期望最大化,FedeRiCo 估计其他参与者的模型在每个客户端数据上的效用,从而每个人都能选择合适的协作者进行学习。因此,我们的算法在多个基准数据集上优于其他联邦、个性化和/或去中心化的方法,是唯一一种始终优于仅使用本地数据训练的方法。

关键词

引用

@article{arxiv.2210.06597,
  title  = {Find Your Friends: Personalized Federated Learning with the Right Collaborators},
  author = {Yi Sui and Junfeng Wen and Yenson Lau and Brendan Leigh Ross and Jesse C. Cresswell},
  journal= {arXiv preprint arXiv:2210.06597},
  year   = {2022}
}