FedAST：联邦异步同步训练

联邦学习使边缘设备或客户端能够在不共享私有数据的情况下协作训练机器学习模型。联邦学习中现有的大部分工作都集中在为单个任务高效地学习模型上。在本文中，我们研究使用一组公共客户端同时训练多个联邦学习模型。现有的少数同时训练方法采用客户端更新的同步聚合，这可能会因为大模型和/或慢速客户端阻塞聚合而导致显著延迟。另一方面，朴素的异步聚合会受到陈旧客户端更新的不利影响。我们提出了FedAST，一种缓冲异步联邦同步训练算法，它克服了慢速模型的瓶颈，并自适应地在异构任务间分配客户端资源。我们为FedAST在光滑非凸目标函数下提供了理论收敛保证。在多个真实世界数据集上进行的大量实验表明，我们提出的方法优于现有的同时联邦学习方法，在完成多个任务的训练时，时间最多可减少46.0%。