通过污染邻居节点对图卷积网络实施的间接对抗攻击
机器学习
2020-10-22 v1 密码学与安全
机器学习
摘要
图卷积神经网络通过学习邻居节点上的聚合操作,在节点分类任务中取得了优异性能。然而,近期研究指出,此类图卷积节点分类器可被图上对抗扰动所欺骗。滥用图卷积,节点的分类结果可通过污染其邻居而受到影响。给定一个属性图与一个节点分类器,我们如何评估其对此类间接对抗攻击的鲁棒性?我们能否生成不仅在单跳邻居上有效、且距离目标更远的强对抗扰动?本文中,我们证明仅需污染距离目标甚至两跳或更远的一个节点,即可高置信度地欺骗该节点分类器。为实现该攻击,我们提出一种新方法,仅在距离目标较远的一个节点上搜索更小的扰动。在我们的实验中,所提方法在两个数据集上针对两跳内目标取得了99%的攻击成功率。我们还证明,m层图卷积神经网络有概率被我们在m跳邻居内的间接攻击所欺骗。所提攻击可用作未来防御尝试的基准,以开发具有对抗鲁棒性的图卷积神经网络。
引用
@article{arxiv.2002.08012,
title = {Indirect Adversarial Attacks via Poisoning Neighbors for Graph Convolutional Networks},
author = {Tsubasa Takahashi},
journal= {arXiv preprint arXiv:2002.08012},
year = {2020}
}
备注
Accepted in IEEE BigData 2019