图神经网络上的稀疏恶意攻击
机器学习
2022-09-21 v1 密码学与安全
摘要
图神经网络（GNNs）已在多项图结构数据的预测建模任务中证明是成功的。在这些任务中，链接预测是许多现实应用（如推荐系统）的基本问题之一。然而，GNNs 并非对对抗攻击免疫，即精心构造的、旨在欺骗预测模型的恶意样本。在本工作中，我们关注一种特定的白盒攻击，针对基于 GNN 的链接预测模型，其中恶意节点旨在出现在给定目标受害者的推荐节点列表中。为实现该目标，攻击节点还可依赖其直接控制的其他已有节点的协作，即向网络中注入若干“恶意”节点的能力。具体而言，所有这些恶意节点均可添加新边或移除已有边，从而扰动原始图。因此，我们提出 SAVAGE，一种用于发起此类链接预测攻击的新框架与方法。SAVAGE 将攻击者的目标表述为一个优化任务，在攻击效果与所需恶意资源的稀疏性之间取得平衡。在真实世界与合成数据集上进行的大量实验表明，通过 SAVAGE 实现的对抗攻击确实在以少量恶意节点取得了高攻击成功率。最后，尽管这些攻击需要目标模型的全部知识，我们展示了它们可成功迁移至其他黑盒链接预测方法。
引用
@article{arxiv.2209.09688,
title = {Sparse Vicious Attacks on Graph Neural Networks},
author = {Giovanni Trappolini and Valentino Maiorca and Silvio Severino and Emanuele Rodolà and Fabrizio Silvestri and Gabriele Tolomei},
journal= {arXiv preprint arXiv:2209.09688},
year = {2022}
}