联邦学习中的后门攻击与防御：综述、挑战与未来研究方向
机器学习
2023-03-07 v1
摘要
联邦学习（FL）是一种机器学习（ML）方法，它允许使用分布式数据而不损害个人隐私。然而，FL中客户端间数据的异构分布可能使编排服务器难以验证本地模型更新的完整性，从而使FL易受包括后门攻击在内的各种威胁。后门攻击涉及通过来自恶意客户端的投毒更新将恶意功能插入目标模型。这些攻击可使全局模型在特定输入上行为异常，而在其他情况下表现正常。由于其影响现实世界深度学习应用的潜力，后门攻击已在文献中受到显著关注。然而，它们在FL背景下尚未被透彻研究。在本综述中，我们对FL中当前的后门攻击策略与防御进行了全面综述，包括对不同方法的综合分析。我们还讨论了FL背景下攻击与防御的挑战及潜在未来方向。
引用
@article{arxiv.2303.02213,
title = {Backdoor Attacks and Defenses in Federated Learning: Survey, Challenges and Future Research Directions},
author = {Thuy Dung Nguyen and Tuan Nguyen and Phi Le Nguyen and Hieu H. Pham and Khoa Doan and Kok-Seng Wong},
journal= {arXiv preprint arXiv:2303.02213},
year = {2023}
}