基于Bandit的通信高效联邦学习客户端选择策略
机器学习
2020-12-16 v1 人工智能
摘要
由于联邦学习中的通信约束与客户端间歇性可用，每轮训练只能有客户端子集参与。尽管多数先前工作假设均匀且无偏的客户端选择，近期关于有偏客户端选择的研究表明，选择本地损失较高的客户端可提升误差收敛速度。然而，此前提出的有偏选择策略要么需要额外通信开销以评估精确本地损失，要么利用陈旧本地损失，这甚至可能导致模型发散。本文提出一种基于 bandit 的通信高效客户端选择策略 UCB-CS，以更低通信开销实现更快收敛。我们还展示了如何利用客户端选择提升公平性。
引用
@article{arxiv.2012.08009,
title = {Bandit-based Communication-Efficient Client Selection Strategies for Federated Learning},
author = {Yae Jee Cho and Samarth Gupta and Gauri Joshi and Osman Yağan},
journal= {arXiv preprint arXiv:2012.08009},
year = {2020}
}