基于原型正则化加速联邦学习收敛
机器学习
2023-07-21 v1 人工智能
计算机视觉与模式识别
摘要
作为一种分布式机器学习技术，联邦学习（FL）要求客户端在边缘服务器协调下协作训练共享模型，且不泄露本地数据。然而，客户端间异构的数据分布常导致模型性能下降。为解决此问题，本文引入一种基于原型的正则化策略以应对数据分布的异质性。具体而言，正则化过程包括服务器聚合来自分布式客户端的本地原型以生成全局原型，随后将其发回各客户端以指导本地训练。在 MNIST 与 Fashion-MNIST 上的实验结果表明，相较于最流行的基线 FedAvg，我们的方案平均测试准确率分别提升 3.3% 与 8.9%。此外，我们的方法在异构设置下具有较快的收敛速度。
引用
@article{arxiv.2307.10575,
title = {Boosting Federated Learning Convergence with Prototype Regularization},
author = {Yu Qiao and Huy Q. Le and Choong Seon Hong},
journal= {arXiv preprint arXiv:2307.10575},
year = {2023}
}