GNNGuard：防御图神经网络免受对抗攻击
机器学习
2020-10-29 v3 机器学习
摘要
用于图的深度学习方法在多个领域取得了卓越性能。然而，近期研究发现，对图结构微小且难以察觉的扰动，即便对最强大且最流行的图神经网络（GNNs）也能造成灾难性的性能下降。在此，我们提出 GNNGuard，一种通用算法，用于防御各类在训练期扰动离散图结构的攻击。GNNGuard 可直接嵌入任意 GNN 中。其核心原则是检测并量化图结构与节点特征之间的关系（若存在），进而利用该关系缓解攻击的负面影响。GNNGuard 学习如何最优地将更高权重分配给连接相似节点的边，同时剪除不相关节点之间的边。修订后的边使得底层 GNN 中神经消息得以鲁棒传播。GNNGuard 引入两个新颖组件：邻居重要性估计与逐层图记忆，并且我们通过实验证明二者对于成功防御均不可或缺。在五种 GNN、三种防御方法与五个数据集（包括一个具有挑战性的人类疾病图）上的实验表明，GNNGuard 平均以 15.3% 的优势超越现有防御方法。值得注意的是，GNNGuard 能有效恢复 GNN 在各类对抗攻击（包括定向与非定向攻击）下的先进性能，并可防御针对异配图的攻击。
引用
@article{arxiv.2006.08149,
title = {GNNGuard: Defending Graph Neural Networks against Adversarial Attacks},
author = {Xiang Zhang and Marinka Zitnik},
journal= {arXiv preprint arXiv:2006.08149},
year = {2020}
}
备注
Accepted by NeurIPS 2020. More info about GNNGuard: https://zitniklab.hms.harvard.edu/projects/GNNGuard/