利用历史信息增强异构场景下模型对比联邦学习的性能
机器学习
2026-02-13 v1 人工智能
摘要
联邦学习(FL)使多个节点能够在不共享原始数据的情况下协作训练模型。然而,FL系统通常部署在异构场景中,节点在数据分布和参与频率上均存在差异,这损害了FL的性能。为解决上述问题,本文提出PMFL,一种利用历史训练信息增强性能的模型对比联邦学习框架。具体而言,在节点端,我们通过在节点优化目标中引入一个新颖的模型对比项,结合历史局部模型来捕获稳定的对比点,从而提高异构数据分布下模型更新的一致性。在服务器端,我们利用每个节点的累积参与次数自适应地调整其聚合权重,从而纠正由不同节点参与频率引起的全局目标偏差。此外,更新后的全局模型结合了历史全局模型,以减少相邻轮次间性能的波动。大量实验表明,在异构场景下,PMFL相比现有FL方法取得了更优的性能。
引用
@article{arxiv.2602.11945,
title = {Towards Performance-Enhanced Model-Contrastive Federated Learning using Historical Information in Heterogeneous Scenarios},
author = {Hongliang Zhang and Jiguo Yu and Guijuan Wang and Wenshuo Ma and Tianqing He and Baobao Chai and Chunqiang Hu},
journal= {arXiv preprint arXiv:2602.11945},
year = {2026}
}