中文

面向聚类联邦多任务学习的边缘节点公平选择

网络与互联网体系结构 2023-05-02 v2

摘要

当数据不平衡且以非独立同分布方式分布于各客户端时,聚类联邦多任务学习被引入作为一种高效技术。虽然相似性度量可根据客户端的数据分布为其提供专用模型,但该过程可能耗时,因为服务器需要先捕获所有客户端的数据分布才能执行正确聚类。由于网络边缘的资源与时间限制,每轮仅选取部分设备,因而需要一种高效的调度技术来解决这些问题。为此,本文提出一种两阶段客户端选择与调度方法,以在捕获所有数据分布的同时提升收敛速度。该方法通过为训练模型耗时较长的参与者利用带宽复用,并借助设备的异质性按其延迟调度参与者,从而确保正确聚类及客户端间的公平性。随后服务器依据预定阈值与停止准则执行聚类。当某一指定集群接近停止点时,服务器对该集群采用贪心选择,挑选延迟更低且资源更优的设备。本文给出了收敛性分析,揭示了所提调度方法与专用模型收敛速率之间的关系,并在非独立同分布数据下获得收敛界。我们进行了大量仿真,结果表明所提算法在为每个用户提供契合其数据分布的定制模型的同时,减少了训练时间并提升了收敛速度。

关键词

引用

@article{arxiv.2304.13423,
  title  = {Fair Selection of Edge Nodes to Participate in Clustered Federated Multitask Learning},
  author = {Abdullatif Albaseer and Mohamed Abdallah and Ala Al-Fuqaha and Abegaz Mohammed and Aiman Erbad and Octavia A. Dobre},
  journal= {arXiv preprint arXiv:2304.13423},
  year   = {2023}
}

备注

To appear in IEEE Transactions on Network and Service Management, Special issue on Federated Learning for the Management of Networked Systems