MGIC：联邦学习中基于 Canny 边缘检测的多标签梯度反转攻击
计算机视觉与模式识别
2024-03-14 v1
摘要
作为一种能够保护数据隐私的新型分布式计算框架，联邦学习（FL）近年来吸引了越来越多的关注。它从用户处接收梯度以训练全局模型，并将训练好的全局模型发布给参与用户。然而，梯度反转（GI）攻击揭示了联邦学习中隐私泄露的风险。攻击者仅需通过数十万次简单迭代利用梯度，即可获得存储在用户本地设备上相对准确的私有数据。为此，一些工作提出了简单但有效的策略，以在单标签数据集下获取用户数据。但这些策略以更高的时间成本为代价，换取了反转图像令人满意的视觉效果。由于单标签的语义局限性，梯度反转得到的图像可能存在语义错误。我们提出了一种基于 Canny 边缘检测的新型梯度反转策略（MGIC），适用于多标签和单标签数据集。为减少单标签引起的语义错误，我们在已训练模型中添加新的卷积层模块以获取图像的多标签。通过多标签表示，反转图像中的严重语义错误得以减少。随后，我们分析了参数对输入图像重建难度的影响，并探讨了图像多主体如何影响反转性能。我们提出的策略相比最广泛使用的方法具有更好的视觉反转图像效果，在 ImageNet 数据集上节省了超过 78% 的时间成本。
引用
@article{arxiv.2403.08284,
title = {MGIC: A Multi-Label Gradient Inversion Attack based on Canny Edge Detection on Federated Learning},
author = {Can Liu and Jin Wang},
journal= {arXiv preprint arXiv:2403.08284},
year = {2024}
}