重新定义贡献：Shapley驱动的联邦学习
机器学习
2024-06-04 v1 人工智能
摘要
联邦学习(FL)已成为机器学习中的一种关键方法，使多个参与者能够在不共享原始数据的情况下协作训练全局模型。虽然FL在医疗和金融等各个领域都有应用，但当参与者贡献不均等和/或不诚实时，确保全局模型收敛是具有挑战性的。为了克服这一挑战，需要原则性的机制来评估FL环境中各个参与者的贡献。现有的贡献评估解决方案依赖于总体准确率评估，通常无法捕捉细微的动态变化和类别特定的影响。本文提出了一种新颖的贡献评估方法，称为ShapFed，用于对FL中的参与者贡献进行细粒度评估。我们的方法使用合作博弈论中的Shapley值来提供对类别特定影响的细粒度理解。基于ShapFed，我们引入了一种称为ShapFed-WA的加权聚合方法，该方法优于传统的联邦平均，特别是在类别不平衡的场景中。根据参与者的贡献个性化其更新，通过提供与参与者贡献相称的差异化模型，进一步增强了协作公平性。在CIFAR-10、Chest X-Ray和Fed-ISIC2019数据集上的实验证明了我们的方法在提高FL系统的效用、效率和公平性方面的有效性。代码可在https://github.com/tnurbek/shapfed找到。
引用
@article{arxiv.2406.00569,
title = {Redefining Contributions: Shapley-Driven Federated Learning},
author = {Nurbek Tastan and Samar Fares and Toluwani Aremu and Samuel Horvath and Karthik Nandakumar},
journal= {arXiv preprint arXiv:2406.00569},
year = {2024}
}
备注
Accepted by IJCAI 2024