你在使用可靠的图提示吗? 图神经网络的Trojan攻击
机器学习
2025-05-30 v2 密码学与安全
摘要
图提示学习 (GPL) 作为一种利用提示适应预训练 GNN 模型以适应特定下游任务而无需微调整个模型的 promising 方法而被引入。尽管GPL具有诸多优势,但对其后门攻击的关注仍很有限,后门攻击允许 adversary 通过嵌入隐藏触发器来操控模型行为。现有的图后门攻击依赖于在训练期间修改模型参数,但在GPL中,由于 GNN 编码器在预训练后参数被冻结,这一方法难以实现。此外,下游用户可能在干净数据集上对自己的任务模型进行微调,进一步复杂化了攻击。本文提出了 TGPA,一个专为GPL设计的后门攻击框架。TGPA 在不修改预训练 GNN 编码器参数的情况下将后门注入图提示中,并确保高攻击成功率和干净准确率。为解决用户微调导致后门失效的挑战,我们引入一种抗微调投毒方法,即使在下游模型调整后,后门仍能保持有效性。在多种设置下对多个数据集进行大量实验表明,TGPA 在固定 GNN 编码器的情况下有效地危害了 GPL 模型。
引用
@article{arxiv.2410.13974,
title = {Are You Using Reliable Graph Prompts? Trojan Prompt Attacks on Graph Neural Networks},
author = {Minhua Lin and Zhiwei Zhang and Enyan Dai and Zongyu Wu and Yilong Wang and Xiang Zhang and Suhang Wang},
journal= {arXiv preprint arXiv:2410.13974},
year = {2025}
}
备注
To be appeared in KDD 2025