联邦学习中最大化全局模型吸引力
机器学习
2023-02-07 v2
摘要
联邦学习通常考虑利用边缘客户端的本地数据协作训练一个全局模型。客户端可能拥有各自的个体需求,例如具有最小的训练损失阈值,并期望全局模型满足这些需求。然而,由于客户端异质性,全局模型可能无法满足每个客户端的需求,仅有小部分子集可能认为全局模型有吸引力。在本工作中,我们探讨全局模型因无法满足本地需求而缺乏对客户端吸引力的问题。我们提出 MaxFL,旨在最大化认为全局模型有吸引力的客户端数量。我们表明,具有高全局模型吸引力对于维持充足的训练客户端池至关重要,并可直接提升在已见与未见过客户端上的测试精度。我们为 MaxFL 提供收敛性保证,并表明与广泛的 FL 建模范式(包括处理数据异质性、旨在激励客户端以及学习个性化或公平模型的方法)相比,MaxFL 分别为训练客户端和未见过客户端带来 - 和 - 的测试精度提升。
引用
@article{arxiv.2205.14840,
title = {Maximizing Global Model Appeal in Federated Learning},
author = {Yae Jee Cho and Divyansh Jhunjhunwala and Tian Li and Virginia Smith and Gauri Joshi},
journal= {arXiv preprint arXiv:2205.14840},
year = {2023}
}