学习检测恶意客户端以实现鲁棒联邦学习
机器学习
2020-02-04 v1 密码学与安全
机器学习
摘要
联邦学习系统易受来自恶意客户端的攻击。由于系统中的中心服务器无法管控客户端的行为，恶意客户端可能通过向服务器发送恶意的模型更新来发起攻击，从而降级学习性能或实施定向模型投毒攻击（又称后门攻击）。因此，及时检测这些恶意模型更新及其背后的攻击者变得至关重要。在本工作中，我们提出了一种用于鲁棒联邦学习的新框架，其中中心服务器学习使用强大的检测模型来检测并移除恶意模型更新，从而实现定向防御。我们在图像分类和情感分析任务中以多种机器学习模型评估了我们的方案。实验结果表明，我们的方案确保了鲁棒的联邦学习，其能够抵御拜占庭攻击与定向模型投毒攻击。
引用
@article{arxiv.2002.00211,
title = {Learning to Detect Malicious Clients for Robust Federated Learning},
author = {Suyi Li and Yong Cheng and Wei Wang and Yang Liu and Tianjian Chen},
journal= {arXiv preprint arXiv:2002.00211},
year = {2020}
}
备注
7 pages, 5 figures