GIFD:一种基于特征域优化的生成式梯度反演方法
计算机视觉与模式识别
2023-09-12 v2 密码学与安全
摘要
联邦学习(FL)近来作为一种有前景的分布式机器学习框架崭露头角,它通过允许多个客户端将基于本地数据计算的梯度上传至中心服务器来保护客户端隐私。近期研究发现,交换的梯度同样存在隐私泄露风险,例如攻击者可利用预训练的生成对抗网络(GAN)作为先验知识,对共享梯度进行反演并从FL系统中恢复敏感数据。然而,在GAN模型的潜空间中进行梯度反演攻击限制了其表达能力与泛化性。为应对这些挑战,我们提出\textbf{特}征\textbf{域}上的\textbf{梯}度\textbf{反}演(GIFD),其拆解GAN模型并搜索中间层的特征域。我们并非仅在初始潜码上优化,而是逐步改变优化层,从初始潜空间到更靠近输出图像的中间层。此外,我们设计了一个正则化项,通过对搜索范围添加小的球约束来避免不真实图像生成。我们还将GIFD扩展至分布外(OOD)设定,弱化了GAN与FL任务训练集服从相同数据分布的假设。大量实验表明,我们的方法可实现像素级重建,并优于现有方法。值得注意的是,GIFD在不同防御策略设定与批大小下也展现出极佳的泛化性。
引用
@article{arxiv.2308.04699,
title = {GIFD: A Generative Gradient Inversion Method with Feature Domain Optimization},
author = {Hao Fang and Bin Chen and Xuan Wang and Zhi Wang and Shu-Tao Xia},
journal= {arXiv preprint arXiv:2308.04699},
year = {2023}
}
备注
ICCV 2023