联邦学习中的局部模型重构攻击及其应用
机器学习
2024-05-28 v3 人工智能
密码学与安全
摘要
本文中,我们开创了联邦学习的局部模型重构攻击研究:一个诚实但好奇的敌手窃听目标客户端与服务器之间交换的消息,进而重构受害者的局部/个性化模型。局部模型重构攻击使敌手能够以更有效的方式触发其他经典攻击,因为局部模型仅依赖于客户端的数据,且比服务器学习的全局模型泄露更多隐私信息。此外,我们利用局部模型重构攻击提出了一种联邦学习中基于模型的属性推断攻击新方案。我们给出了该属性推断攻击的解析下界。使用真实世界数据集的实证结果证实,我们的局部重构攻击在回归与分类任务上均表现良好。而且,我们将这一新型属性推断攻击与联邦学习中的当前最优攻击进行了基准对比。我们的攻击实现了更高的重构精度,尤其在客户端数据集异构时。我们的工作为设计强大且可解释的攻击以有效量化联邦学习(FL)中的隐私风险提供了新视角。
引用
@article{arxiv.2210.16205,
title = {Local Model Reconstruction Attacks in Federated Learning and their Uses},
author = {Ilias Driouich and Chuan Xu and Giovanni Neglia and Frederic Giroire and Eoin Thomas},
journal= {arXiv preprint arXiv:2210.16205},
year = {2024}
}
备注
we discover bugs in experiments