DPAR:具有节点级差分隐私的解耦图神经网络
机器学习
2024-03-18 v3 密码学与安全
摘要
图神经网络(GNNs)在图结构数据学习中取得了巨大成功。训练好的模型也可能暴露图(包括节点特征和结构信息)的敏感信息,这引发了隐私担忧。本文旨在为 GNNs 训练实现节点级差分隐私(DP),从而保护节点及其边。节点 DP 对于 GNNs 而言 inherently 困难,因为通过逐层消息传递,所有直接和多跳邻居都参与每个节点梯度的计算,且节点的直接和间接邻居数量无界,因此现有 DP 方法会因高节点敏感度而导致高隐私成本或低效用。我们提出了一种具有差分隐私近似个性化 PageRank(DPAR)的解耦 GNN,以在增强的隐私-效用权衡下训练 GNNs。其核心思想是通过 DP PageRank 算法解耦特征投影与消息传递,该算法学习结构信息并使用由 PageRank 确定的前 个邻居进行特征聚合。通过捕获每个节点最重要的邻居并避免逐层消息传递,该方法限定了节点敏感度,与基于逐层扰动的方案相比实现了改进的隐私-效用权衡。我们从理论上分析了两个过程结合后的节点 DP 保证,并实证表明在相同节点 DP 水平下,DPAR 比最先进方法具有更好的效用。
引用
@article{arxiv.2210.04442,
title = {DPAR: Decoupled Graph Neural Networks with Node-Level Differential Privacy},
author = {Qiuchen Zhang and Hong kyu Lee and Jing Ma and Jian Lou and Carl Yang and Li Xiong},
journal= {arXiv preprint arXiv:2210.04442},
year = {2024}
}
备注
Accepted to The 2024 Web Conference