面向图神经网络抗投毒攻击的鲁棒性迁移
机器学习
2020-02-27 v3 密码学与安全
社会与信息网络
机器学习
摘要
图神经网络（GNNs）被广泛应用于许多场景中。然而，其针对对抗攻击的鲁棒性受到质疑。先前研究表明，对图拓扑或节点特征进行难以察觉的修改会显著降低GNNs的性能。设计抗投毒攻击的鲁棒图神经网络极具挑战性，已有若干尝试。现有工作仅利用被投毒图来减少对抗边的负面影响，这是次优的，因为它们未能区分对抗边与正常边。另一方面，现实世界中通常可获得与目标投毒图相似领域的干净图。通过扰动这些干净图，我们创建监督知识以训练检测对抗边的能力，从而提升GNNs的鲁棒性。然而，现有工作忽视了干净图的这种潜力。为此，我们研究一种利用干净图提升GNNs抗投毒攻击鲁棒性的新问题。具体而言，我们提出PA-GNN，其依赖于一种惩罚聚合机制，通过为对抗边分配较低注意力系数来直接限制其负面影响。为了在投毒图上优化PA-GNN，我们设计了一种元优化算法，利用干净图及其对抗对应物训练PA-GNN惩罚扰动，并将该能力迁移以提升PA-GNN在投毒图上的鲁棒性。在四个真实世界数据集上的实验结果证明了PA-GNN抗图投毒攻击的鲁棒性。代码和数据可在此获取：https://github.com/tangxianfeng/PA-GNN。
引用
@article{arxiv.1908.07558,
title = {Transferring Robustness for Graph Neural Network Against Poisoning Attacks},
author = {Xianfeng Tang and Yandong Li and Yiwei Sun and Huaxiu Yao and Prasenjit Mitra and Suhang Wang},
journal= {arXiv preprint arXiv:1908.07558},
year = {2020}
}
备注
Accepted by WSDM 2020. Code and data: https://github.com/tangxianfeng/PA-GNN