FedCore：基于分布式核心集的无掉队者联邦学习
分布式、并行与集群计算
2024-02-02 v1 人工智能
机器学习
摘要
联邦学习（FL）是一种机器学习范式，允许多个客户端在将数据保留在本地的前提下协作训练共享模型。然而，由缓慢客户端引起的掉队者问题常常阻碍联邦学习的效率和可扩展性。本文提出 FedCore 算法，通过数据集代表性子集（即核心集）的去中心化选择，创新性地解决掉队者问题。与现有的集中式核心集方法不同，FedCore 以分布式方式直接在每个客户端上创建核心集，确保了联邦学习中的隐私保护。FedCore 将核心集优化问题转化为更易处理的 k-medoids 聚类问题，并在每个客户端上分布式执行。理论分析证实了 FedCore 的收敛性，实际评估表明，在不影响模型准确率的情况下，联邦学习训练时间减少了 8 倍。我们广泛的评估还表明，FedCore 能很好地泛化至现有的联邦学习框架。
引用
@article{arxiv.2402.00219,
title = {FedCore: Straggler-Free Federated Learning with Distributed Coresets},
author = {Hongpeng Guo and Haotian Gu and Xiaoyang Wang and Bo Chen and Eun Kyung Lee and Tamar Eilam and Deming Chen and Klara Nahrstedt},
journal= {arXiv preprint arXiv:2402.00219},
year = {2024}
}