联邦持续学习中个性化模型的去中心化动态协作
机器学习
2025-09-30 v1
摘要
联邦持续学习（FCL）因其在数据分布不断变化的环境中支持分布式计算的能力而受到越来越多的关注。然而，新任务的出现引入了时间维度和跨客户端偏移，使得灾难性遗忘成为关键挑战。大多数现有工作将客户端的知识聚合到全局模型中，但由于无关知识可能引入干扰，尤其在异构场景下，这未必能提升客户端性能。此外，直接将去中心化方法应用于FCL会因任务变化导致无效的组形成。为应对这些挑战，我们提出了一种FCL的去中心化动态协作框架，客户端建立动态协作学习联盟以平衡新知识的获取与先前学习的保留，从而获得个性化模型。为最大化模型性能，每个客户端进行选择性协作，动态与能提供有意义性能提升的其他客户端结盟。这导致每个任务阶段形成不重叠的、可变的联盟。此外，我们使用联盟亲和博弈来模拟客户端之间的联盟关系。通过评估客户端梯度一致性与模型相似性，我们量化了协作带来的客户端收益。我们还提出了一种合并阻塞算法和动态协作演化算法以实现协作与动态平衡。全面实验表明，我们的方法优于各种基线。代码可在https://github.com/ydn3229/DCFCL获取。
引用
@article{arxiv.2509.23683,
title = {Decentralized Dynamic Cooperation of Personalized Models for Federated Continual Learning},
author = {Danni Yang and Zhikang Chen and Sen Cui and Mengyue Yang and Ding Li and Abudukelimu Wuerkaixi and Haoxuan Li and Jinke Ren and Mingming Gong},
journal= {arXiv preprint arXiv:2509.23683},
year = {2025}
}