揭露联邦学习中梯度逆转攻击的威胁模型：综述与分类
密码学与安全
2024-05-20 v1 人工智能
摘要
联邦学习（FL）已成为 decentralized, 隐私保留机器学习训练的主导范式。然而，近期研究表明，梯度逆转攻击（GIAs）会泄露私人训练样本的信息。虽然现有GIAs调查主要关注诚实但好奇的服务器威胁模型，但针对恶意服务器和客户的攻击研究仍不足，这些攻击更具隐私侵扰性。在本文中，我们提出了一项调查和新分类，强调联邦学习威胁模型，特别是恶意服务器和客户。我们首先正式定义GIAs并对比常规攻击与恶意攻击者。随后，我们总结了现有的诚实但好奇的攻击策略、相应防御措施和评估指标。关键的是，我们深入分析了恶意服务器和客户的攻击，突出显示它们如何破坏现有联邦学习防御措施，重点关注重建方法、目标模型架构、目标数据和评估指标。最后，我们讨论了开放问题和未来研究方向。
引用
@article{arxiv.2405.10376,
title = {Dealing Doubt: Unveiling Threat Models in Gradient Inversion Attacks under Federated Learning, A Survey and Taxonomy},
author = {Yichuan Shi and Olivera Kotevska and Viktor Reshniak and Abhishek Singh and Ramesh Raskar},
journal= {arXiv preprint arXiv:2405.10376},
year = {2024}
}