GRAIN：基于梯度的精确图重建
机器学习
2025-03-04 v1 分布式、并行与集群计算
摘要
联邦学习声称通过传输梯度更新而非实际客户端数据，使多个客户端能够进行协作模型训练。然而，最近的研究表明，客户端隐私仍因所谓的梯度逆转攻击而面临风险，这类攻击可从共享的梯度更新中精确重建客户端的文本和图像数据。虽然这些攻击在特定领域和体系结构中显示出严重的隐私风险，但其他常见数据类型，如图结构数据，的脆弱性尚未得到充分探索。为填补这一差距，我们提出 GRAIN，这是首个在诚实但好奇的环境下对图数据进行的精确梯度逆转攻击，可恢复图的结构以及关联的节点特征。具体而言，我们聚焦图卷积网络 (GCN) 和图注意力网络 (GAT) —— 两种用于在图上学习的最广泛使用的框架。我们的方法首先利用 GNN 梯度的低秩结构高效重建和筛选客户端子图，然后将其合并以完成输入图。我们在分子、引用和社交网络数据集上评估了我们的方法，并使用我们新颖的度量标准。我们表明，GRAIN 可精确重建最高达 80% 的所有图，这显著优于基线方法，后者实现的正确定位节点最高仅为 20%。
引用
@article{arxiv.2503.01838,
title = {GRAIN: Exact Graph Reconstruction from Gradients},
author = {Maria Drencheva and Ivo Petrov and Maximilian Baader and Dimitar I. Dimitrov and Martin Vechev},
journal= {arXiv preprint arXiv:2503.01838},
year = {2025}
}
备注
Published at The Thirteenth International Conference on Learning Representations (ICLR) 2025