联邦均衡学习
计算机视觉与模式识别
2026-02-10 v2 机器学习
摘要
联邦学习是一种联合学习范式，其中客户端通过共享模型参数而非数据来进行协作。然而，在非独立同分布（non-iid）设置下，全局模型会经历客户端漂移，这会严重影响模型的最终性能。先前的方法倾向于基于损失函数或梯度来纠正已经偏离的全局模型，而忽略了客户端样本的影响。在本文中，我们重新思考了客户端的作用，并提出了联邦均衡学习，即 FBL，通过在客户端进行样本均衡来从一开始就防止此问题。从技术上讲，FBL 允许客户端上的非均衡数据在客户端数据样本数量固定的限制下，通过利用边缘侧生成模型进行知识填充和知识采样来实现样本均衡。此外，我们设计了一种知识对齐策略来弥合合成数据与真实数据之间的差距，以及一种知识丢弃策略来正则化我们的方法。同时，我们将方法扩展到真实和复杂的场景，允许不同的客户端采用各种方法，并扩展我们的框架以进一步提高性能。大量实验表明，我们的方法优于最先进的基线。代码将在接收后发布。
引用
@article{arxiv.2601.14042,
title = {Federated Balanced Learning},
author = {Jiaze Li and Haoran Xu and Wanyi Wu and Changwei Wang and Shuaiguang Li and Jianzhong Ju and Zhenbo Luo and Jian Luan and Youyang Qu and Longxiang Gao and Xudong Yang and Lumin Xing},
journal= {arXiv preprint arXiv:2601.14042},
year = {2026}
}