FedDAA:面向联邦学习中概念漂移自适应的动态客户端聚类
机器学习
2025-06-27 v1
摘要
在联邦学习(FL)中,每个客户端的数据分布可能随时间变化,引入了时间和空间数据异构性,这被称为概念漂移。数据异构性源于三种漂移源:真实漂移(条件分布 P(y|x) 的偏移)、虚拟漂移(输入分布 P(x) 的偏移)和标签漂移(标签分布 P(y) 的偏移)。然而,大多数解决概念漂移的现有 FL 方法主要关注真实漂移。当客户端经历虚拟漂移或标签漂移时,这些方法通常无法选择性地保留有用的历史知识,导致灾难性遗忘。一个关键挑战在于区分不同来源的漂移,因为它们需要不同的自适应策略:真实漂移需要丢弃过时数据,而虚拟漂移或标签漂移则受益于保留历史数据。如果不明确识别漂移源,通用的自适应策略是次优的,并可能损害泛化能力。为了应对这一挑战,我们提出了 FedDAA,一个动态聚类的 FL 框架,旨在适应多源概念漂移同时保留有价值的历史知识。具体而言,FedDAA 集成了三个模块:一个聚类数确定模块,用于寻找最优聚类数;一个真实漂移检测模块,用于区分真实漂移与虚拟/标签漂移;以及一个概念漂移自适应模块,用于在保留有用历史信息的同时适应新数据。我们提供了理论收敛保证,实验表明,在 Fashion-MNIST、CIFAR-10 和 CIFAR-100 上,FedDAA 比 SOTA 方法实现了 7.84% 到 8.52% 的准确率提升。
引用
@article{arxiv.2506.21054,
title = {FedDAA: Dynamic Client Clustering for Concept Drift Adaptation in Federated Learning},
author = {Fu Peng and Ming Tang},
journal= {arXiv preprint arXiv:2506.21054},
year = {2025}
}