联邦学习的一次性聚类
机器学习
2025-04-30 v2 人工智能
摘要
联邦学习（FL）是一种广泛采用的分布式学习范式，允许从多个来源训练一个模型，而无需在参与客户端之间直接传输数据。自 2015 年提出以来，它已分为众多子领域，处理应用特定问题，无论是数据异构性还是资源分配。其中一个子领域——聚类联邦学习（CFL）——处理将客户端群体聚类为不同组群以提供个性化模型的问题。尽管该领域已发表了一些杰出工作，但该问题仍未被充分探索，因为其基本假设和设置与标准 FL 略有不同。在本工作中，我们提出了一次性聚类联邦学习（OCFL），一种聚类无关的算法，能够自动检测最早适合聚类的时刻。我们的算法基于客户端梯度之间的余弦相似度计算以及一种温度度量，用于检测联邦模型何时开始收敛。我们在三个基准数据集上的三十多个不同任务上实证评估了各种一次性聚类算法。实验展示了我们方法在无需调整超参数的情况下以自动化方式执行 CFL 时的良好性能。
引用
@article{arxiv.2503.04231,
title = {One-Shot Clustering for Federated Learning},
author = {Maciej Krzysztof Zuziak and Roberto Pellungrini and Salvatore Rinzivillo},
journal= {arXiv preprint arXiv:2503.04231},
year = {2025}
}