图神经网络上的黑盒梯度攻击：对基于图的攻击与防御的深入洞察
机器学习
2024-10-28 v2 人工智能
机器学习
摘要
图神经网络（GNNs）因其在各种图表示学习任务上的最优性能而受到显著关注。然而，近期研究揭示 GNNs 易受对抗攻击，即攻击者能够通过故意扰动图结构或节点特征来欺骗 GNNs。尽管现有多数攻击算法能成功降低 GNNs 的性能，但它们需要访问模型参数或训练数据，这在实际应用中并不现实。本文中，我们深入剖析了具有代表性的灰盒攻击方法 Mettack 算法，进而提出了一种基于梯度的黑盒攻击算法。首先，我们表明 Mettack 算法会不均匀地扰动边，因此攻击将高度依赖于特定训练集。结果，一种简单而有效的防御 Mettack 的策略是使用验证集训练 GNN。其次，为克服这些缺陷，我们提出了黑盒梯度攻击（BBGA）算法。大量实验表明，我们提出的方法能够在无需访问 GNNs 训练集的情况下实现稳定的攻击性能。进一步结果显示，我们的方法在攻击各种防御方法时同样适用。
引用
@article{arxiv.2104.15061,
title = {Black-box Gradient Attack on Graph Neural Networks: Deeper Insights in Graph-based Attack and Defense},
author = {Haoxi Zhan and Xiaobing Pei},
journal= {arXiv preprint arXiv:2104.15061},
year = {2024}
}
备注
A new version of this work has been submitted to the IEEE for possible publication