听见邪恶：检测联邦学习中恶意服务器的梯度泄露
机器学习
2025-06-26 v1 密码学与安全
分布式、并行与集群计算
摘要
近期研究表明，联邦学习中的梯度更新可能意外地揭示有关客户端本地数据的敏感信息。当恶意服务器操纵全局模型以诱发包含丰富信息的客户端更新时，这种风险水平显著增加。本文从防御者的角度出发，对恶意梯度泄露攻击及其启发这些攻击的模型操纵技术进行首次全面分析。我们的调查揭示了核心权衡：这些攻击既不能在重建私有数据的同时又足够隐蔽以避免检测——尤其是在包含常见归一化技术和联邦平均化的现实联邦学习环境中。基于这一洞见，我们认为，尽管从理论上讲恶意梯度泄露攻击令人担忧，但在实际中本质上受限且常常可通过基本监控被检测到。作为补充贡献，我们提出一种简单、轻量且广泛适用的客户端侧检测机制，在本地训练开始之前标记可疑模型更新，尽管此类检测在现实联邦学习环境中可能并非严格必要。这一机制进一步凸显了如何以最小开销防御这些攻击的可行性，为注重隐私的联邦学习系统提供了可部署的安全措施。
引用
@article{arxiv.2506.20651,
title = {Hear No Evil: Detecting Gradient Leakage by Malicious Servers in Federated Learning},
author = {Fei Wang and Baochun Li},
journal= {arXiv preprint arXiv:2506.20651},
year = {2025}
}