针对图卷积网络的语义后门攻击

图卷积网络（GCN）在处理各种图结构相关任务方面非常有效。然而，最近的研究表明，GCN 容易受到一种称为后门攻击的新型威胁，攻击者可以将隐藏的后门注入 GCN，使得被攻击的模型在良性样本上表现良好，但如果隐藏的后门被攻击者定义的触发器激活，其预测将被恶意更改为攻击者指定的目标标签。语义后门攻击是针对深度神经网络（DNN）的一种新型后门攻击，其中样本自然出现的语义特征可以作为后门触发器，使得受感染的 DNN 模型即使不需要修改测试样本，也会将包含预定义语义特征的测试样本错误分类。由于后门触发器是样本自然出现的语义特征，语义后门攻击更加难以察觉，并构成了一种新的严重威胁。在本文中，我们研究了此类语义后门攻击对 GCN 是否可行，并在图分类的背景下提出了一种针对 GCN 的语义后门攻击（SBAG），以揭示 GCN 中存在这种安全漏洞。SBAG 使用样本中特定类型的节点作为后门触发器，并通过投毒训练数据将隐藏的后门注入 GCN 模型。只要样本包含足够的触发器节点，后门就会被激活，GCN 模型即使在未修改的样本上也会给出由攻击者指定的恶意分类结果。我们在四个图数据集上评估了 SBAG，实验结果表明 SBAG 是有效的。