面向鲁棒性与成员隐私的图信息瓶颈统一框架
机器学习
2023-06-16 v1 人工智能
密码学与安全
摘要
图神经网络(GNNs)在建模图结构数据方面取得了巨大成功。然而,近期工作表明 GNNs 易受对抗攻击,攻击者可利用此类攻击误导 GNN 模型做出其期望的预测。此外,GNNs 的训练数据可能在成员推断攻击下泄露。这在很大程度上阻碍了 GNNs 在电子商务、金融和生物信息学等高风险领域的应用。尽管已有关于鲁棒预测和保护成员隐私的研究,但它们通常未能同时考虑鲁棒性与成员隐私。因此,在本工作中,我们研究一个新问题:开发鲁棒且保护成员隐私的 GNNs。我们的分析表明,信息瓶颈(IB)有助于滤除噪声信息并正则化有标签样本上的预测,从而有益于鲁棒性与成员隐私。然而,节点分类中的结构噪声和标签缺失给 IB 在图结构数据上的部署带来挑战。为缓解这些问题,我们提出了一种新颖的图信息瓶颈框架,可通过邻域瓶颈缓解结构噪声。优化中还引入了伪标签,以最小化有标签集与无标签集上预测之间的差异,从而保护成员隐私。在真实世界数据集上的大量实验表明,我们的方法能够给出鲁棒预测并同时保护成员隐私。
引用
@article{arxiv.2306.08604,
title = {A Unified Framework of Graph Information Bottleneck for Robustness and Membership Privacy},
author = {Enyan Dai and Limeng Cui and Zhengyang Wang and Xianfeng Tang and Yinghan Wang and Monica Cheng and Bing Yin and Suhang Wang},
journal= {arXiv preprint arXiv:2306.08604},
year = {2023}
}