用于联邦学习客户端选择的感知 Maverick 的 Shapley 估值
机器学习
2024-05-22 v1 分布式、并行与集群计算
摘要
联邦学习（FL）允许客户端在不共享其私有数据的情况下协作训练模型。实际 FL 系统中的一个关键挑战是数据异构性，尤其是在处理具有稀有数据的客户端（也称为 Mavericks）时。这些客户端独占一个或多个数据类别，如果没有它们的参与，模型性能会变得很差。因此，在整个训练过程中利用 Mavericks 至关重要。在本文中，我们首先设计了一种感知 Maverick 的 Shapley 估值，以公平地评估 Mavericks 的贡献。主要思想是按类别（即按标签）计算客户端的 Shapley 值（SV）。接下来，我们提出了 FedMS，一种用于 FL 的 Maverick-Shapley 客户端选择机制，该机制通过采用我们基于感知 Maverick 的 SV 的贡献得分，智能地选择每轮中贡献最大的客户端。我们表明，与广泛的基线列表相比，FedMS 实现了更好的模型性能和更公平的 Shapley 奖励分布。
引用
@article{arxiv.2405.12590,
title = {Maverick-Aware Shapley Valuation for Client Selection in Federated Learning},
author = {Mengwei Yang and Ismat Jarin and Baturalp Buyukates and Salman Avestimehr and Athina Markopoulou},
journal= {arXiv preprint arXiv:2405.12590},
year = {2024}
}