图神经网络链接预测任务中的有效后门攻击
机器学习
2025-05-07 v2 人工智能
密码学与安全
摘要
图神经网络是一类能够处理图结构数据的深度学习模型,在各种实际应用中表现出显著性能。最近的研究发现,图神经网络模型容易受到后门攻击。当输入数据中出现特定模式(称为后门触发器,例如子图、节点等)时,嵌入在图神经网络中的后门被激活,将输入数据误分类为攻击者指定的目标类别标签;而当输入中没有后门触发器时,嵌入在图神经网络中的后门不被激活,模型正常工作。后门攻击具有高度隐蔽性,使图神经网络模型面临严重的安全风险。目前,针对图神经网络的后门攻击研究主要集中在图分类和节点分类等任务上,针对链接预测任务的后门攻击研究很少。本文提出了一种针对基于图神经网络的链接预测任务的后门攻击,揭示了图神经网络模型中存在此类安全漏洞,使得带有后门的图神经网络模型在出现触发器时错误地将未链接的两个节点预测为存在链接关系。该方法使用单个节点作为触发器,并在训练图中毒化选定的节点对,然后通过训练过程将后门嵌入图神经网络模型。在推理阶段,只需将触发器节点连接到输入数据中未链接节点对的两个端点,即可激活图神经网络模型中的后门,导致图神经网络模型对目标节点对产生错误的链接预测结果。
引用
@article{arxiv.2401.02663,
title = {Effective backdoor attack on graph neural networks in link prediction tasks},
author = {Jiazhu Dai and Haoyu Sun},
journal= {arXiv preprint arXiv:2401.02663},
year = {2025}
}