ProGAP:具有差分隐私保证的渐进式图神经网络
机器学习
2023-10-24 v2 密码学与安全
摘要
图神经网络(GNNs)已成为图学习的热门工具,但其广泛应用引发了隐私担忧,因为图数据可能包含个人或敏感信息。近来提出了差分隐私 GNN 模型,以在保护隐私的同时仍允许对图结构数据集进行有效学习。然而,由于图固有的结构连通性,在 GNN 中实现精度与隐私的理想平衡仍然具有挑战性。本文提出一种称为 ProGAP 的新型差分隐私 GNN,它采用渐进式训练方案来改善这种精度-隐私权衡。结合聚合扰动技术以确保差分隐私,ProGAP 将一个 GNN 拆分为一系列重叠子模型,这些子模型逐步训练,从第一个子模型扩展到完整模型。具体而言,每个子模型在由先前子模型学习并缓存的隐私聚合节点嵌入上进行训练,与以往方法相比提高了表达能力,同时限制了所产生的隐私开销。我们形式化地证明 ProGAP 在训练和推理阶段均确保边级和节点级隐私保证,并在基准图数据集上评估其性能。实验结果表明,ProGAP 的准确率比现有最先进(SOTA)的差分隐私 GNN 高出 5-10%。我们的代码可在 https://github.com/sisaman/ProGAP 获取。
引用
@article{arxiv.2304.08928,
title = {ProGAP: Progressive Graph Neural Networks with Differential Privacy Guarantees},
author = {Sina Sajadmanesh and Daniel Gatica-Perez},
journal= {arXiv preprint arXiv:2304.08928},
year = {2023}
}
备注
Accepted at WSDM 2024