面向异构边缘设备的基于动态聚类的个人化联邦学习

联邦学习（FL）使边缘设备能够协作学习全局模型，但在客户端数据异构性较高时可能难以取得佳好性能。本文提出一种用于个人化联邦学习系统（DC-PFL）的动态聚类算法，以解决数据异构性问题。DC-PFL从所有客户端开始训练全局模型，逐步根据数据相似性将客户端聚类到更小的子簇中进行模型个人化。为解决仅凭服务器接收的模型权重估计数据异构性的难题，我们引入一种称为模型异质性的度量指标，该指标仅基于服务器接收的模型权重来近似数据异构性。我们证明，模型异质性与数据异构性呈强烈且正相关的关系，可作为数据异构性的可靠指示器。为确定何时以及如何更改聚类结构，我们提出一种基于训练损失曲线快速下降期的算法。此外，我们提出一种基于层的聚合机制，对低异质性层以更低的频率进行聚合，以减少传输数据量和通信成本。我们在各种数据集上进行了大量实验，以评估所提出的算法，结果表明DC-PFL显著减少总体训练时间并提高模型准确率。