联合攻击图神经网络及其解释
机器学习
2022-11-23 v2 人工智能
密码学与安全
社会与信息网络
摘要
图神经网络(GNNs)已提升了许多图相关任务的性能。尽管取得了巨大成功，近期研究表明GNNs极易受到对抗攻击，攻击者可通过修改图来误导GNNs的预测。另一方面，GNNs的解释方法(GNNExplainer)通过生成对其预测影响最大的子图与特征，提供对训练后GNN模型更好的理解。本文中，我们首先通过实证研究验证GNNExplainer可作为检测工具，并具备检测图对抗扰动的潜力。该发现促使我们进一步提出一个新的问题探究：能否通过恶意修改图来联合攻击图神经网络及其解释？由于对抗攻击与规避GNNExplainer的目标本质上相互矛盾，回答此问题颇具挑战。本工作中，我们通过提出一种新颖的攻击框架(GEAttack)对此问题给出肯定回答，该框架可同时利用GNN模型及其解释的漏洞来攻击二者。在多个真实世界数据集上针对两种解释器(GNNExplainer与PGExplainer)的大量实验证明了所提方法的有效性。
引用
@article{arxiv.2108.03388,
title = {Jointly Attacking Graph Neural Network and its Explanations},
author = {Wenqi Fan and Wei Jin and Xiaorui Liu and Han Xu and Xianfeng Tang and Suhang Wang and Qing Li and Jiliang Tang and Jianping Wang and Charu Aggarwal},
journal= {arXiv preprint arXiv:2108.03388},
year = {2022}
}
备注
Accepted by ICDE 2023 (39th IEEE International Conference on Data Engineering)