联邦学习中的比例公平性
机器学习
2023-05-10 v5 人工智能
最优化与控制
机器学习
摘要
随着联邦学习(FL)系统在现实世界中部署的日益广泛,确保FL中的公平性——即众多异构客户端各自获得合理满意的性能——至关重要但充满挑战。本工作中,我们引入并研究了FL中一种称为比例公平性(PF)的新公平性概念,其基于每个客户端性能的相对变化。从其与议价博弈的关联出发,我们提出PropFair,一种新颖且易于实现的算法,用于在FL中寻找比例公平解,并研究了其收敛性质。通过在视觉和语言数据集上的大量实验,我们证明PropFair可近似找到PF解,并在所有客户端的平均性能与最差10%客户端性能之间取得了良好平衡。我们的代码见 \url{https://github.com/huawei-noah/Federated-Learning/tree/main/FairFL}。
引用
@article{arxiv.2202.01666,
title = {Proportional Fairness in Federated Learning},
author = {Guojun Zhang and Saber Malekmohammadi and Xi Chen and Yaoliang Yu},
journal= {arXiv preprint arXiv:2202.01666},
year = {2023}
}
备注
Accepted at TMLR 2023, code: https://github.com/huawei-noah/Federated-Learning/tree/main/FairFL