原型助力联邦学习:迈向更快收敛
机器学习
2023-03-23 v1 人工智能
多媒体
摘要
联邦学习(FL)是一种分布式机器学习技术,多个客户端协作训练共享模型而不交换其原始数据。然而,客户端间数据分布的异质性通常导致模型推理性能不佳。本文提出了一种基于原型的联邦学习框架,该框架仅对典型联邦学习过程的最后一次全局迭代做少量改动,即可获得更好的推理性能。在最后一次迭代中,服务器聚合来自分布式客户端的原型,然后将其发送回本地客户端以进行各自的模型推理。在两个基线数据集上的实验表明,在不同的异质性设置下,我们的方案相比两种流行基线能达到更高的准确率(至少 1%)且通信相对高效。
引用
@article{arxiv.2303.12296,
title = {Prototype Helps Federated Learning: Towards Faster Convergence},
author = {Yu Qiao and Seong-Bae Park and Sun Moo Kang and Choong Seon Hong},
journal= {arXiv preprint arXiv:2303.12296},
year = {2023}
}
备注
3 pages, 3 figures