联邦学习威胁综述：概念、攻击与防御分类、实验研究与挑战
密码学与安全
2022-09-20 v1 人工智能
机器学习
摘要
联邦学习是一种作为人工智能中隐私保护需求解决方案而新兴的机器学习范式。如同机器学习，联邦学习受到针对学习模型完整性与数据隐私的对抗性攻击的威胁，其通过分布式方法处理局部与全局学习。这一弱点因联邦学习中数据的不可访问性而加剧，使得对抗性攻击的防护更加困难，并表明有必要推进防御方法的研究，以使联邦学习成为保障数据隐私的真正方案。在本文中，我们对联邦学习的威胁及其相应对策、攻击与防御进行了广泛综述。本综述提供了描绘联邦学习此脆弱性总体图景及克服方法的对抗性攻击分类法与防御方法分类法。此外，我们阐述了根据对抗性攻击类别选择最适当防御方法的指导原则。我们亦开展了广泛的实验研究，从中得出关于攻击与防御行为及根据对抗性攻击类别选择最适当防御方法指导原则的进一步结论。本研究以深思后的经验教训与挑战作结。
引用
@article{arxiv.2201.08135,
title = {Survey on Federated Learning Threats: concepts, taxonomy on attacks and defences, experimental study and challenges},
author = {Nuria Rodríguez-Barroso and Daniel Jiménez López and M. Victoria Luzón and Francisco Herrera and Eugenio Martínez-Cámara},
journal= {arXiv preprint arXiv:2201.08135},
year = {2022}
}