寻找你的伙伴:与合适协作者进行个性化联邦学习
机器学习
2022-10-18 v2
摘要
在传统的联邦学习设置中,中央服务器协调一个客户端网络来训练一个全局模型。然而,由于数据异构性,全局模型可能对许多客户端表现不佳。此外,可能不存在可信的中央方来协调客户端,以确保每个客户端都能从他人那里受益。为解决这些问题,我们提出了一种新颖的去中心化框架 FedeRiCo,其中每个客户端可以根据其本地数据分布,从其他客户端学习尽可能多或尽可能少的内容以达到最优。基于期望最大化,FedeRiCo 估计其他参与者的模型在每个客户端数据上的效用,从而每个人都能选择合适的协作者进行学习。因此,我们的算法在多个基准数据集上优于其他联邦、个性化和/或去中心化的方法,是唯一一种始终优于仅使用本地数据训练的方法。
引用
@article{arxiv.2210.06597,
title = {Find Your Friends: Personalized Federated Learning with the Right Collaborators},
author = {Yi Sui and Junfeng Wen and Yenson Lau and Brendan Leigh Ross and Jesse C. Cresswell},
journal= {arXiv preprint arXiv:2210.06597},
year = {2022}
}