面向图提示学习的跨情境后门攻击
机器学习
2024-05-29 v1
摘要
图提示学习 (GPL) 旨在缓解预训练与下游应用之间的知识传递瓶颈。虽然GPL 在图知识传递和计算效率方面表现优异，但针对预训练模型中嵌入的后门投毒效应的安全风险尚未得到充分探讨。本研究对GPL易受后门攻击的脆弱性进行全面分析。我们提出\textit{CrossBA}，首个针对GPL的跨情境后门攻击，该攻击仅操控预训练阶段，无需了解下游应用。我们的调查表明，调谛触发图结合提示变换，可无缝将后门威胁从预训练编码器转移到下游应用。通过涉及3种代表性GPL方法、5种不同跨情境情景和5个节点/图分类任务的大量实验，我们展示\textit{CrossBA}在保持下游应用在干净输入上的功能性的同时，始终实现高攻击成功率。我们还探讨了针对\textit{CrossBA}的潜在对策，得出结论当前防御措施不足以缓解\textit{CrossBA}。本研究凸显了GPL系统持续存在的后门威胁，提升了GPL技术实践中的可信度问题。
引用
@article{arxiv.2405.17984,
title = {Cross-Context Backdoor Attacks against Graph Prompt Learning},
author = {Xiaoting Lyu and Yufei Han and Wei Wang and Hangwei Qian and Ivor Tsang and Xiangliang Zhang},
journal= {arXiv preprint arXiv:2405.17984},
year = {2024}
}
备注
Accepted by KDD 2024