FLDetector：通过检测恶意客户端防御联邦学习中的模型投毒攻击
密码学与安全
2022-10-25 v4 人工智能
摘要
联邦学习（FL）易受模型投毒攻击，其中恶意客户端通过向服务器发送被操纵的模型更新来破坏全局模型。现有防御主要依赖于拜占庭鲁棒 FL 方法，其旨在即使部分客户端为恶意时也能学习准确的全局模型。然而，它们在实践中仅能抵御少量恶意客户端。如何防御具有大量恶意客户端的模型投毒攻击仍是一个开放挑战。我们的 FLDetector 通过检测恶意客户端来应对这一挑战。FLDetector 旨在检测并移除大多数恶意客户端，使得拜占庭鲁棒 FL 方法能利用剩余客户端学习准确的全局模型。我们的关键观察是，在模型投毒攻击中，一个客户端在多次迭代中的模型更新是不一致的。因此，FLDetector 通过检查其模型更新一致性来检测恶意客户端。粗略地说，服务器使用柯西中值定理和 L-BFGS 基于客户端的历史模型更新预测其在每次迭代中的模型更新，若客户端接收到的模型更新与预测的模型更新在多次迭代中不一致，则将其标记为恶意。我们在三个基准数据集上的大量实验表明，FLDetector 能在多种最先进的模型投毒攻击中准确检测恶意客户端。移除检测到的恶意客户端后，现有拜占庭鲁棒 FL 方法可学习准确的全局模型。我们的代码可在 https://github.com/zaixizhang/FLDetector 获取。
引用
@article{arxiv.2207.09209,
title = {FLDetector: Defending Federated Learning Against Model Poisoning Attacks via Detecting Malicious Clients},
author = {Zaixi Zhang and Xiaoyu Cao and Jinyuan Jia and Neil Zhenqiang Gong},
journal= {arXiv preprint arXiv:2207.09209},
year = {2022}
}
备注
Accepted by KDD 2022 (Research Track)