Client2Vec：面向分布漂移感知的联邦学习客户端索引
机器学习
2024-05-28 v1
摘要
联邦学习（FL）是一种隐私保护的分布式机器学习范式。然而，客户端之间存在显著的分布漂移，这对当前 FL 算法的性能构成挑战。为缓解这一挑战，已提出 various 方法来增强 FL 训练过程。本文尝试从另一个角度来解决数据异构性问题——在实际训练前改进 FL 算法。具体而言，我们引入 Client2Vec 机制，在 FL 训练启动前为每个客户端生成唯一的客户端索引。随后，我们利用生成的客户端索引来增强后续的 FL 训练过程。为 demonstration proposed Client2Vec 方法的有效性，conduct three case studies to assess the impact of the client index on the FL training process。这三项案例研究分别涵盖增强客户端抽样、模型聚合和本地训练。在多样化的数据集和模型架构上进行的大量实验表明，Client2Vec 在所有三项案例研究中均显示出效能。我们的代码已在 \url{https://github.com/LINs-lab/client2vec} 上公开。
关键词
引用
@article{arxiv.2405.16233,
title = {Client2Vec: Improving Federated Learning by Distribution Shifts Aware Client Indexing},
author = {Yongxin Guo and Lin Wang and Xiaoying Tang and Tao Lin},
journal= {arXiv preprint arXiv:2405.16233},
year = {2024}
}