间歇客户端可用性与时变通信约束下的联邦学习
机器学习
2023-03-22 v1
摘要
联邦学习系统有助于在潜在异构数据分布于大量客户端上的场景中训练全局模型。此类系统在客户端间歇性可用和/或时变通信约束的环境下运行。因此，联邦学习系统训练的全局模型可能偏向可用性更高的客户端。我们提出 F3AST，一种无偏算法，它动态学习依赖于可用性的客户端选择策略，该策略渐近地最小化客户端采样方差对全局模型收敛的影响，从而提升联邦学习的性能。所提算法在多种具有通信约束的间歇可用客户端设置下进行了测试，并使用 CIFAR100 与 Shakespeare 数据集在合成数据与真实联邦基准实验中证明了其有效性。我们分别在 CIFAR100 与 Shakespeare 上展示了相比 FedAvg 最高 186% 与 8% 的准确率提升，以及相比 FedAdam 的 8% 与 7% 的提升。
引用
@article{arxiv.2205.06730,
title = {Federated Learning Under Intermittent Client Availability and Time-Varying Communication Constraints},
author = {Monica Ribero and Haris Vikalo and Gustavo De Veciana},
journal= {arXiv preprint arXiv:2205.06730},
year = {2023}
}