FedSV: 基于 Shapley Value 的拜占庭鲁棒联邦学习
机器学习
2025-02-26 v1 密码学与安全
计算机科学与博弈论
摘要
在联邦学习(Federated Learning, FL)中,多个客户端共同学习一个机器学习模型:每个客户端为其本地学习数据集维护一个本地模型,而主服务器通过聚合客户端设备的本地模型来维护一个全局模型。然而,服务器与客户端之间重复的通信为旨在破坏全局模型完整性的攻击留下了空间,导致其目标预测出现错误。针对 FL 上的此类威胁,文献中已提出多种防御措施。在本文中,我们提出了一种针对 FL 中恶意客户端的强大防御方法,称为 FedSV,它使用 Shapley Value (SV) 来度量用户贡献,该方法通过计算由于添加用户本地数据而导致的模型平均精度的边际增加来实现。我们的方法使得对恶意客户端的识别更加鲁棒,因为在学习阶段,它根据目标客户端所属的不同组来估计每个客户端的贡献。FedSV 的有效性通过在跨机构场景下针对 MNIST 数据集在各种攻击下的广泛实验得到了证明。
引用
@article{arxiv.2502.17526,
title = {FedSV: Byzantine-Robust Federated Learning via Shapley Value},
author = {Khaoula Otmani and Rachid Elazouzi and Vincent Labatut},
journal= {arXiv preprint arXiv:2502.17526},
year = {2025}
}