LCFed：面向异构数据的高效聚类联邦学习框架
机器学习
2025-01-06 v1 人工智能
分布式、并行与集群计算
摘要
聚类联邦学习（CFL）通过将具有相似数据分布的边缘设备组织成簇，实现为每个群体量身定制的协作模型训练，从而应对联邦学习（FL）中数据异构性带来的性能挑战。然而，现有的 CFL 方法严格将知识共享限制在簇内，缺乏将全局知识与簇内训练相结合，导致性能次优。此外，传统的聚类方法会产生显著的计算开销，尤其是在边缘设备数量增加时。在本文中，我们提出了 LCFed，一个高效 CFL 框架来应对这些挑战。通过利用模型划分并对每个子模型采用不同的聚合策略，LCFed 有效地将全局知识融入簇内协同训练中，实现了最优的训练性能。此外，LCFed 定制了一种基于低秩模型的计算高效的模型相似性度量方法，使得能够以极小的计算开销实时更新簇。大量实验表明，LCFed 在测试准确率和聚类计算效率上均优于 SOTA 基准。
引用
@article{arxiv.2501.01850,
title = {LCFed: An Efficient Clustered Federated Learning Framework for Heterogeneous Data},
author = {Yuxin Zhang and Haoyu Chen and Zheng Lin and Zhe Chen and Jin Zhao},
journal= {arXiv preprint arXiv:2501.01850},
year = {2025}
}
备注
6 pages, 3 figures