基于多臂老虎机的联邦学习客户端调度
信息论
2020-07-21 v1 机器学习
math.IT
摘要
通过利用分布式客户端的计算能力与本地数据，联邦学习（FL）具有通信开销降低与保护数据隐私等泛在特性。在FL的每一通信轮中，客户端基于自身数据更新本地模型并通过无线信道上传本地更新。然而，由数百至数千通信轮引起的延迟仍是FL的瓶颈。为最小化训练延迟，本工作在不知晓无线信道状态信息及客户端统计特性的情况下，提供基于多臂老虎机的FL在线客户端调度（CS）框架。首先，我们针对本地数据集独立同分布（i.i.d.）且均衡的理想场景，提出基于上置信界策略的CS算法（CS-UCB）。给出了所提CS-UCB算法期望性能遗憾的上界，表明遗憾随通信轮对数增长。进而，为处理本地数据集非i.i.d.、不均衡及客户端可用性变化的非理想场景，我们进一步提出基于UCB策略与虚拟队列技术的CS算法（CS-UCB-Q）。亦推导了上界，表明所提CS-UCB-Q算法的期望性能遗憾在特定条件下随通信轮次线性亚增长。此外，还分析了FL训练的收敛性能。最后，仿真结果验证了所提算法的有效性。
引用
@article{arxiv.2007.02315,
title = {Multi-Armed Bandit Based Client Scheduling for Federated Learning},
author = {Wenchao Xia and Tony Q. S. Quek and Kun Guo and Wanli Wen and Howard H. Yang and Hongbo Zhu},
journal= {arXiv preprint arXiv:2007.02315},
year = {2020}
}