FedRC：通过鲁棒聚类应对联邦学习中多样分布偏移挑战
机器学习
2024-06-11 v4
摘要
联邦学习（FL）是一种通过将客户端数据保留在边缘设备上以保障隐私的机器学习范式。然而，由于学习系统具有多样且异构的特性，在实践中优化FL可能颇具挑战。尽管近期研究聚焦于改善客户端间发生分布偏移时的FL优化，但当客户端间同时发生多种类型的分布偏移——如特征分布偏移、标签分布偏移与概念偏移——时，如何确保全局性能仍鲜有探索。在本文中，我们识别出多样分布偏移同时发生所带来的学习挑战，并提出一种聚类原则以克服这些挑战。通过研究，我们发现现有方法未能满足该聚类原则。因此，我们提出一种新颖的聚类算法框架，称为FedRC，其通过引入双层优化问题与新目标函数遵循我们所提出的聚类原则。大量实验表明，FedRC显著优于其他SOTA基于聚类的FL方法。我们的代码见 \url{https://github.com/LINs-lab/FedRC}。
引用
@article{arxiv.2301.12379,
title = {FedRC: Tackling Diverse Distribution Shifts Challenge in Federated Learning by Robust Clustering},
author = {Yongxin Guo and Xiaoying Tang and Tao Lin},
journal= {arXiv preprint arXiv:2301.12379},
year = {2024}
}
备注
ICML 2024