图神经网络后门：基础、方法、应用与未来方向
机器学习
2025-01-08 v2 人工智能
密码学与安全
摘要
图神经网络（GNN）显著推进了各种下游图相关任务，包括推荐系统、分子结构预测、社交媒体分析等。尽管GNN取得了进步，但最近的研究已凭经验证明了其对后门攻击的潜在脆弱性，其中对手利用触发器污染输入样本，诱导GNN产生对手预谋的恶意输出。这通常是由于受控的训练过程，或部署不可信模型，例如将模型训练委托给第三方服务、利用外部训练集以及使用来自在线来源的预训练模型。尽管关于GNN后门的研究正在持续增加，但对该领域的全面调查仍然缺乏。为弥补这一空白，我们提出了首个专门针对GNN后门的综述。我们首先概述GNN的基本定义，然后根据其技术特征和应用场景，对当前的GNN后门攻击和防御进行详细的总结和分类。随后，分析了GNN后门的适用性和用例。最后，探讨了GNN后门的潜在研究方向。本综述旨在探索图后门的原理，为防御者提供见解，并促进未来的安全研究。
引用
@article{arxiv.2406.10573,
title = {Graph Neural Backdoor: Fundamentals, Methodologies, Applications, and Future Directions},
author = {Xiao Yang and Gaolei Li and Jianhua Li},
journal= {arXiv preprint arXiv:2406.10573},
year = {2025}
}