基于梯度的深度泄露：联邦学习中的图像数据还原攻击

随着人工智能技术的发展，联邦学习（FL）模型因其高效性和保密性已在众多行业广泛应用。一些研究者探究了其保密性并设计了若干算法来攻击训练数据集，但这些算法均存在各自局限。因此，多数人仍认为本地机器学习梯度信息是安全可靠的。本文设计了一种基于梯度特征的算法来攻击联邦学习模型，以引起对联邦学习系统安全性的更多关注。在联邦学习系统中，与原训练数据集相比梯度所含信息极少，但本项目旨在透过梯度信息还原原始训练图像数据。卷积神经网络（CNN）在图像处理方面表现优异。因此，本项目联邦学习模型配备卷积神经网络结构，并使用图像数据集训练模型。该算法通过生成虚拟图像标签计算虚拟梯度，再将虚拟梯度与真实梯度匹配以还原原始图像。该攻击算法以 Python 语言编写，使用猫狗分类 Kaggle 数据集，并从全连接层逐步扩展到卷积层，从而提升了通用性。目前，该算法恢复的数据与原图像信息的均方误差约为 5，绝大多数图像可根据所给梯度信息完全还原，表明联邦学习系统的梯度并非绝对安全可靠。