联邦学习系统中实现安全与隐私：综述、研究挑战与未来方向
密码学与安全
2020-12-15 v1 人工智能
摘要
联邦学习（FL）允许服务器在多个私有存储各自训练数据的去中心化客户端上学习机器学习（ML）模型。与集中式 ML 方法相比，FL 为服务器节省计算且不需客户端将私有数据外包给服务器。然而，FL 并非毫无问题。一方面，客户端每轮训练发送的模型更新可能泄露其私有数据信息。另一方面，服务器学到的模型可能遭受恶意客户端攻击；这些安全攻击可能投毒模型或阻碍其收敛。本文首先考察针对 FL 的安全与隐私攻击，并批判性综述文献中提出的缓解各攻击的方案。随后，我们讨论同时实现安全与隐私保护的困难。最后，我们勾勒解决该开放问题并兼顾安全与隐私的途径。
引用
@article{arxiv.2012.06810,
title = {Achieving Security and Privacy in Federated Learning Systems: Survey, Research Challenges and Future Directions},
author = {Alberto Blanco-Justicia and Josep Domingo-Ferrer and Sergio Martínez and David Sánchez and Adrian Flanagan and Kuan Eeik Tan},
journal= {arXiv preprint arXiv:2012.06810},
year = {2020}
}
备注
40 pages, 19 figures