联邦学习中的异常客户端行为检测
机器学习
2019-12-09 v2 机器学习
摘要
在联邦学习系统中，客户端具有自主性，其行为并非完全受服务器管控。因此，客户端可能有意或无意地偏离规定的联邦模型训练过程，从而产生异常行为，例如变为恶意攻击者或故障客户端。及时检测这些异常客户端对于将其不利影响降至最低至关重要。在本工作中，我们提出在服务器端检测异常客户端。具体而言，我们生成模型权重向量的低维代理，并利用它们进行异常检测。我们通过在 FEMNIST 数据集上训练图像分类模型的实验评估了我们的方案。实验结果表明，所提出的基于检测的方法显著优于传统的基于防御的方法。
引用
@article{arxiv.1910.09933,
title = {Abnormal Client Behavior Detection in Federated Learning},
author = {Suyi Li and Yong Cheng and Yang Liu and Wei Wang and Tianjian Chen},
journal= {arXiv preprint arXiv:1910.09933},
year = {2019}
}
备注
7 pages, 1 figure, 2nd International Workshop on Federated Learning for Data Privacy and Confidentiality, in Conjunction with NeurIPS 2019 (FL-NeurIPS 19)