中文

联邦学习中的成员推断攻击与防御:综述

密码学与安全 2024-12-10 v1

摘要

联邦学习是一种分布式机器学习方法,其中客户端在本地训练模型并共享模型更新以开发全局模型。这使得低资源设备能够在不直接访问原始训练数据的情况下协同构建高质量模型。然而,尽管仅共享模型更新,联邦学习仍面临多个隐私漏洞。一个关键威胁是成员推断攻击,这些攻击通过确定特定示例是否属于训练集来针对客户端的隐私构成威胁。这些攻击可能在医疗诊断等实际应用中泄露敏感信息。尽管已有大量关于成员推断攻击的研究,但目前缺乏专注于联邦学习环境中成员推断攻击的全面且最新概述。为填补这一空白,我们基于其在该设置中的特征对成员推断攻击及其相应防御策略进行分类和总结。我们引入现有攻击研究的独特分类体系,并提供各种对策的系统概述。对于这些研究,我们全面分析了不同方法的优势和劣势。最后,我们确定并讨论了为感兴趣的读者推进该领域的关键未来研究方向。

关键词

引用

@article{arxiv.2412.06157,
  title  = {Membership Inference Attacks and Defenses in Federated Learning: A Survey},
  author = {Li Bai and Haibo Hu and Qingqing Ye and Haoyang Li and Leixia Wang and Jianliang Xu},
  journal= {arXiv preprint arXiv:2412.06157},
  year   = {2024}
}

备注

To be published in ACM Computing Surveys