中文

通过图对比学习缓解满足差分隐私的联邦设定中的性能牺牲

机器学习 2023-08-22 v3

摘要

当前,图学习模型是帮助研究者探索图结构数据不可或缺的工具。在学术界,使用充足的训练数据在单一设备上优化图模型是训练有能力的图学习模型的典型方法。然而出于隐私考虑,在真实场景中这样做并不可行。联邦学习通过引入各种隐私保护机制(如图边上的差分隐私(differential privacy, DP))提供了解决此限制的实用手段。但是,尽管联邦图学习中的 DP 能够确保图中敏感信息的安全,它通常会导致图学习模型性能下降。本文中,我们研究 DP 如何应用于图边,并在实验中观察到性能下降。此外,我们注意到图边上的 DP 引入了扰动图邻近度的噪声,而图邻近度是图对比学习中的一种图增广。受此启发,我们提出利用图对比学习来缓解由 DP 导致的性能下降。在五个广泛使用的基准数据集上用四种代表性图模型进行的充分实验表明,对比学习确实缓解了模型的 DP 引发性能下降。

关键词

引用

@article{arxiv.2207.11836,
  title  = {Mitigating the Performance Sacrifice in DP-Satisfied Federated Settings through Graph Contrastive Learning},
  author = {Haoran Yang and Xiangyu Zhao and Muyang Li and Hongxu Chen and Guandong Xu},
  journal= {arXiv preprint arXiv:2207.11836},
  year   = {2023}
}

备注

Accepted by Information Sciences