面向聚类联邦学习的交互感知高斯加权方法
机器学习
2025-05-05 v2
摘要
联邦学习(FL)作为一种去中心化范式出现,旨在训练模型的同时保护隐私。然而,传统的联邦学习难以应对数据异质性和类别不平衡问题,这会降低模型性能。聚类联邦学习通过将具有相似数据分布的客户端分组,在个性化与去中心化训练之间取得平衡,从而在遵守隐私约束的同时提高准确性。这种方法有效缓解了联邦学习中异质性的不利影响。在这项工作中,我们提出了一种新颖的聚类联邦学习方法 FedGWC(联邦高斯加权聚类),该方法基于客户端的数据分布对其进行分组,允许在识别出的聚类上训练更鲁棒且个性化的模型。FedGWC 通过将个体经验损失转化为利用高斯奖励机制建模客户端交互来识别同质簇。此外,我们引入了 Wasserstein 调整分数,这是一种用于联邦学习的新聚类度量,用于评估簇相对于个体类别分布的内聚性。我们在基准数据集上的实验表明,FedGWC 在簇质量和分类准确率上均优于现有的联邦学习算法,验证了我们方法的有效性。
引用
@article{arxiv.2502.03340,
title = {Interaction-Aware Gaussian Weighting for Clustered Federated Learning},
author = {Alessandro Licciardi and Davide Leo and Eros Fanì and Barbara Caputo and Marco Ciccone},
journal= {arXiv preprint arXiv:2502.03340},
year = {2025}
}
备注
Accepted at ICML 2025