具有公平工人选择的联邦学习:一种多轮子模最大化方法
计算机科学与博弈论
2021-07-27 v1 分布式、并行与集群计算
机器学习
多智能体系统
摘要
在本文中,我们研究了联邦学习系统中的公平工人选择问题,其中公平性作为一种激励机制,鼓励更多工人参与联邦。考虑到全局模型达到的训练精度作为所选工人的效用,这通常是一个单调子模函数,我们将工人选择问题形式化为一个新的多轮单调子模最大化问题,带有基数约束和公平性约束。目标是最大化多轮时间平均效用,同时满足一个额外的公平性要求:每个工人必须在特定时间比例内被选中。虽然带有基数约束的传统子模最大化已经是众所周知的NP难问题,但多轮设置中的公平性约束增加了额外的难度。为了应对这一新挑战,我们提出了三种算法:Fair Continuous Greedy (FairCG1和FairCG2)和Fair Discrete Greedy (FairDG),它们在可行时都满足公平性要求。此外,我们证明了在FairCG1和FairCG2下实现的时间平均效用的非平凡下界。另外,通过给予公平性更高的优先级,FairDG确保了更强的短期公平性保证,该保证在每一轮都成立。最后,我们进行了大量模拟,以验证所提出算法在时间平均效用和公平性满足方面的有效性。
引用
@article{arxiv.2107.11728,
title = {Federated Learning with Fair Worker Selection: A Multi-Round Submodular Maximization Approach},
author = {Fengjiao Li and Jia Liu and Bo Ji},
journal= {arXiv preprint arXiv:2107.11728},
year = {2021}
}