基于联邦cINN聚类的精准聚类联邦学习
分布式、并行与集群计算
2023-09-06 v1 机器学习
摘要
联邦学习(Federated Learning, FL)提出了一种保护隐私的分布式机器学习的创新方法，并支持大规模的高效群体智能。然而，在将联邦学习与群体智能进行协调时，由于数据异构性或不同任务导致不同客户端群体拥有不同目标，会出现一个重大挑战。为应对这一挑战，我们提出联邦cINN聚类算法(Federated cINN Clustering Algorithm, FCCA)，以鲁棒地将客户端聚类到不同组中，避免具有数据异构性的客户端之间的相互干扰，从而提升全局模型的性能。具体而言，FCCA利用全局编码器将每个客户端的私有数据转换为多元高斯分布。随后，其采用生成模型通过最大似然估计学习编码后的潜在特征，这简化了优化并避免模式崩溃。最后，中央服务器收集收敛的本地模型以近似客户端之间的相似性，从而将其划分为不同的簇。大量实验结果表明，在各种模型和数据集上评估，FCCA优于其他最先进的聚类联邦学习算法。这些结果表明，我们的方法在提升现实世界联邦学习任务的效率与准确性方面具有巨大潜力。
引用
@article{arxiv.2309.01515,
title = {Federated cINN Clustering for Accurate Clustered Federated Learning},
author = {Yuhao Zhou and Minjia Shi and Yuxin Tian and Yuanxi Li and Qing Ye and Jiancheng Lv},
journal= {arXiv preprint arXiv:2309.01515},
year = {2023}
}