联邦学习中的贡献评估：审视当前方法
机器学习
2023-11-17 v1 分布式、并行与集群计算
计算机科学与博弈论
摘要
在各方希望协作训练模型同时维持对其数据的隐私与治理的情形下，联邦学习（FL）受到越来越多的关注。在 FL 中，拥有私有且可能异构的数据与计算资源的客户端汇聚在一起训练通用模型，而原始数据从不离开本地。参与者通过共享本地模型更新来作出贡献，这些更新在质量上自然存在差异。定量评估这些贡献的价值被称为贡献评估（CE）问题。我们从底层数学框架出发审视当前的 CE 方法，以高效计算每个客户的公平价值。此外，我们在 MNIST 和 CIFAR-10 上对若干最有前景的最先进方法以及我们引入的一种新方法进行了基准测试，以展示其差异。设计公平且高效的 CE 方法虽仅是整体 FL 系统设计中很小的一部分，却等同于 FL 的主流采纳。
引用
@article{arxiv.2311.09856,
title = {Contribution Evaluation in Federated Learning: Examining Current Approaches},
author = {Vasilis Siomos and Jonathan Passerat-Palmbach},
journal= {arXiv preprint arXiv:2311.09856},
year = {2023}
}
备注
Published at New Frontiers in Federated Learning: Privacy, Fairness, Robustness, Personalization and Data Ownership workshop @NeurIPS 2021