GI-SMN：基于风格迁移网络的联邦学习梯度反向攻击
机器学习
2024-05-07 v1
摘要
联邦学习（FL）是一种隐私保护的机器学习方法，多个方共享梯度信息而非原始用户数据。最近的工作表明，梯度反向攻击可利用 FL 的梯度来重建原始用户数据，构成重大隐私风险。然而，这些攻击对攻击者施加了强假设，如改变模型结构或参数、获取批次归一化统计信息或获取原始训练集的先验知识等。因此，这些攻击在现实场景下难以实现。为此，我们提出一种基于风格迁移网络的新型梯度反向攻击（GI-SMN），突破了前述强假设。通过优化潜在代码的细化和使用正则项促进梯度匹配，优化空间被缩减。GI-SMN 能够以高相似度重建用户数据。实验结果表明，GI-SMN 在视觉效果和相似性指标上均优于最先进的梯度反向攻击。此外，它还能克服梯度剪枝和差分隐私防御。
引用
@article{arxiv.2405.03516,
title = {GI-SMN: Gradient Inversion Attack against Federated Learning without Prior Knowledge},
author = {Jin Qian and Kaimin Wei and Yongdong Wu and Jilian Zhang and Jipeng Chen and Huan Bao},
journal= {arXiv preprint arXiv:2405.03516},
year = {2024}
}
备注
18 pages, 10 figures, conference