联邦学习攻击与防御：综述
密码学与安全
2022-11-29 v1 人工智能
摘要
在人工智能方面，服务器对机器学习模型的传统集中式训练方法存在若干安全与隐私缺陷。为解决此局限，联邦学习（FL）被提出，并以打破“数据孤岛”和保护用户隐私而著称。然而，FL尚未在工业界普及，主要由于其安全性、隐私性和高通信成本。为推动该领域研究、构建鲁棒的FL系统并实现FL的广泛应用，本文系统梳理了当前FL系统可能存在的攻击及相应防御。首先，本文简要介绍FL的基本工作流程及攻击与防御的相关知识。回顾了近年来大量关于隐私窃取和恶意攻击的研究。最重要的是，针对当前三种分类标准，即机器学习的三个阶段、联邦学习中的三个不同角色，以及关于隐私保护的CIA（机密性、完整性、可用性）准则，我们根据机器学习中的训练阶段和预测阶段将攻击方法分为两类。此外，我们还识别了每种攻击方法所违反的CIA属性及潜在攻击角色。然后从隐私和安全层面分别分析了各种防御机制。最后，我们从攻击与防御的角度总结了FL应用中可能的挑战，并讨论了FL系统的未来发展方向。如此，所设计的FL系统具备抵御不同攻击的能力，且更安全稳定。
引用
@article{arxiv.2211.14952,
title = {Federated Learning Attacks and Defenses: A Survey},
author = {Yao Chen and Yijie Gui and Hong Lin and Wensheng Gan and Yongdong Wu},
journal= {arXiv preprint arXiv:2211.14952},
year = {2022}
}
备注
IEEE BigData. 10 pages, 2 figures, 2 tables