FedVG:基于梯度引导的聚合以提升联邦学习
机器学习
2026-03-02 v2 人工智能
计算机视觉与模式识别
摘要
联邦学习(FL)通过在多个客户端上协同训练模型而不共享私有数据,实现了这一目标。然而,跨客户端的数据异构性导致客户端漂移,损害模型的整体泛化性能。这种效应因过度关注表现不佳的客户端而加剧。为解决此问题,我们提出了FedVG,一种新型基于梯度的联邦聚合框架,利用全局验证集引导优化过程。这种全局验证集可通过可获得的公共数据集建立,确保可访问性和一致性,同时不损害隐私。在与传统方法不同,后者优先考虑客户端数据集的体积,而FedVG通过衡量跨层的验证梯度大小来评估客户端模型的泛化能力。具体而言,我们计算分层梯度范数以派生客户端特定得分,反映每个客户端在全局验证集上实现改进泛化所需的调整,从而实现更有信息性和自适应的联邦聚合。在自然图像和医学图像基准数据集上进行的广泛实验,涵盖多种模型架构,表明FedVG在高度异构环境下能持续提升性能。此外,FedVG是模块化的,可无缝集成到各种最新FL算法中,常常进一步提高其结果。我们的代码已公开于https://github.com/alinadevkota/FedVG。
引用
@article{arxiv.2602.21399,
title = {FedVG: Gradient-Guided Aggregation for Enhanced Federated Learning},
author = {Alina Devkota and Jacob Thrasher and Donald Adjeroh and Binod Bhattarai and Prashnna K. Gyawali},
journal= {arXiv preprint arXiv:2602.21399},
year = {2026}
}
备注
Accepted to CVPR 2026 (Findings Track)