中文

基于奇异值扰动的边隐私图神经网络

机器学习 2024-03-19 v1 人工智能 密码学与安全 社会与信息网络

摘要

图神经网络(GNN)在从图结构数据中学习表示方面发挥着关键作用,并在许多应用中被证明是有用的。然而,GNN 训练流程已被证明容易受到节点特征泄露和边提取攻击的影响。本文研究了攻击者旨在从训练好的 GNN 模型中恢复私有边信息的场景。先前的研究采用差分隐私(DP)将噪声直接添加到邻接矩阵或紧凑图表示中。添加的扰动导致图结构发生显著改变,降低了模型效用。我们提出了一种新的隐私保护 GNN 训练算法 Eclipse,该算法在提供对边的强隐私保护的同时保持良好的模型效用。Eclipse 基于两个关键观察。首先,图结构中的邻接矩阵表现出低秩行为。因此,Eclipse 通过奇异值分解(SVD)以图的低秩格式训练 GNN,而不是使用原始图。使用低秩格式,Eclipse 保留了主要图拓扑并移除了剩余的残差边。Eclipse 将噪声添加到低秩奇异值上而不是整个图上,从而在保持足够图结构以维持模型效用的同时保护了图隐私。我们从理论上证明 Eclipse 对边提供了形式化的 DP 保证。在基准图数据集上的实验表明,与现有的隐私保护 GNN 训练方法相比,Eclipse 实现了显著更好的隐私-效用权衡。特别是,在强隐私约束(ϵ\epsilon < 4)下,Eclipse 在模型效用上表现出高达 46% 的显著提升。我们进一步证明,Eclipse 对常见的边攻击(例如 LPA)也具有更好的抵抗力,与其他 SOTA 基线相比,攻击 AUC 降低了高达 5%。

关键词

引用

@article{arxiv.2403.10995,
  title  = {Edge Private Graph Neural Networks with Singular Value Perturbation},
  author = {Tingting Tang and Yue Niu and Salman Avestimehr and Murali Annavaram},
  journal= {arXiv preprint arXiv:2403.10995},
  year   = {2024}
}

备注

Accepted at Privacy Enhancing Technologies Symposium (PETS) 2024