联邦学习中基于梯度的最大知识正交性重建
机器学习
2023-10-31 v1
摘要
联邦学习（FL）旨在保持客户端数据本地化以保护隐私。服务器不收集数据本身，而仅收集来自客户端的聚合梯度更新。随着 FL 的普及，已有大量工作揭示通过从梯度更新中重建输入数据来攻击 FL 方法的脆弱性。然而，大多数现有工作假设不切实际的小批量大小的 FL 设置，并且在批量较大时图像质量较差。其他工作修改神经网络架构或参数到可疑的程度，从而可被客户端检测到。此外，它们大多数只能从大批量中重建一个样本输入。为解决这些局限，我们提出了一种新颖且完全解析的方法，称为最大知识正交性重建（MKOR），以重建客户端的输入数据。我们提出的方法从大批量中重建出数学上可证明的高质量图像。MKOR 仅要求服务器向客户端秘密发送修改后的参数，并能高效且隐蔽地从客户端的梯度更新中重建输入图像。我们在 MNIST、CIFAR-100 和 ImageNet 数据集上评估了 MKOR 的性能，并与最先进的工作进行比较。结果表明 MKOR 优于现有方法，并引起了对 FL 隐私保护进一步研究的迫切需求的关注，以便开发全面的防御方法。
引用
@article{arxiv.2310.19222,
title = {Maximum Knowledge Orthogonality Reconstruction with Gradients in Federated Learning},
author = {Feng Wang and Senem Velipasalar and M. Cenk Gursoy},
journal= {arXiv preprint arXiv:2310.19222},
year = {2023}
}
备注
Accepted in IEEE/CVF Winter Conference on Applications of Computer Vision (WACV) 2024