联邦学习：攻击、防御、机遇与挑战
密码学与安全
2024-03-12 v1
摘要
联邦学习（FL）利用分散的数据和训练，将人工智能能力移至边缘设备或在本地执行任务。许多人认为 FL 开启了人工智能的新纪元，但它尚不成熟。由于 FL 的安全性和隐私影响存在争议，它尚未获得社区的信任。在广泛使用和采用之前，必须发现、分析并记录 FL 的安全性和隐私问题。对风险变量的扎实理解使 FL 从业者能够构建安全的环境，并为研究人员提供潜在研究领域的清晰视角，从而使 FL 成为安全性和隐私性是首要问题时的最佳解决方案。本研究旨在全面概述 FL 的安全性和隐私特性，以帮助弥合当前联邦人工智能与未来广泛采用之间的差距。在本文中，我们全面概述了攻击面，以调查 FL 现有的挑战，并评估防御措施以评价其鲁棒性和可靠性。根据我们的研究，关于 FL 的安全问题比隐私问题更为频繁。通信瓶颈、投毒和后门攻击代表了 FL 隐私面临的最重大安全威胁。在最后部分，我们详细介绍了未来的研究方向，这将协助 FL 适应现实世界环境。
引用
@article{arxiv.2403.06067,
title = {Federated Learning: Attacks, Defenses, Opportunities, and Challenges},
author = {Ghazaleh Shirvani and Saeid Ghasemshirazi and Behzad Beigzadeh},
journal= {arXiv preprint arXiv:2403.06067},
year = {2024}
}