迈向联邦学习中的恶意客户端检测
密码学与安全
2025-05-27 v2 分布式、并行与集群计算
机器学习
摘要
联邦学习（FL）使多个客户端能够协作训练全局机器学习模型，而无需共享其原始数据。然而，FL 的去中心化特性引入了漏洞，特别是针对投毒攻击，恶意客户端会操纵其本地模型以破坏训练过程。虽然已开发出拜占庭鲁棒聚合规则来减轻此类攻击，但面对更高级的威胁时它们仍然不足。作为回应，近期的进展集中在 FL 检测技术上，以识别潜在的恶意参与者。不幸的是，这些方法经常将大量良性客户端误分类为威胁，或者对服务器的能力依赖不切实际的假设。在本文中，我们提出了一种新颖的算法 SafeFL，专门设计用于在 FL 中准确识别恶意客户端。SafeFL 方法涉及服务器收集一系列全局模型以生成合成数据集，然后根据其行为来区分恶意和良性模型。广泛的测试表明，SafeFL 优于现有方法，在检测恶意客户端方面具有卓越的效率和准确性。
引用
@article{arxiv.2505.09110,
title = {Toward Malicious Clients Detection in Federated Learning},
author = {Zhihao Dou and Jiaqi Wang and Wei Sun and Zhuqing Liu and Minghong Fang},
journal= {arXiv preprint arXiv:2505.09110},
year = {2025}
}
备注
To appear in ACM ASIACCS 2025