FLGuard：通过对比模型集成的拜占庭鲁棒联邦学习
机器学习
2024-03-06 v1 人工智能
密码学与安全
分布式、并行与集群计算
摘要
联邦学习（FL）通过仅共享使用私有训练数据集训练的本地模型参数来训练全局模型，从而无需公开私有数据集即可获得高性能深度学习模型。然而，最近的研究提出了投毒攻击，当对手伪装成良性客户端出现在客户端组中时，会导致全局模型精度灾难性下降。因此，最近的研究提出了拜占庭鲁棒的FL方法，使服务器即使在系统中存在对手的情况下也能训练出准确的全局模型。然而，许多现有方法需要知道恶意客户端数量或辅助（干净）数据集，或者在私有数据集非独立同分布（non-IID）时效果大幅下降。本文提出FLGuard，一种新颖的拜占庭鲁棒FL方法，利用对比学习技术检测恶意客户端并丢弃恶意本地更新，对比学习作为一种自监督学习方法显示出巨大改进。通过对比模型，我们将FLGuard设计为集成方案以最大化防御能力。我们在各种投毒攻击下广泛评估FLGuard，并将全局模型精度与现有拜占庭鲁棒FL方法进行比较。FLGuard在大多数情况下优于最先进的防御方法，尤其在non-IID设置下表现出显著改进。
引用
@article{arxiv.2403.02846,
title = {FLGuard: Byzantine-Robust Federated Learning via Ensemble of Contrastive Models},
author = {Younghan Lee and Yungi Cho and Woorim Han and Ho Bae and Yunheung Paek},
journal= {arXiv preprint arXiv:2403.02846},
year = {2024}
}
备注
Accepted by 28th European Symposium on Research in Computer Security (ESORICS 2023)