中文

基于图子空间能量优化的图神经网络对抗训练

机器学习 2024-12-30 v1

摘要

尽管图神经网络(Graph Neural Networks, GNN)在处理图结构数据方面展现了惊人的学习能力,但在训练和推理阶段容易受到对抗拓扑扰动的影响。虽然对抗训练在图像分类任务中显示出显著的效果,但其是否适用于 GNN 模型一直备受争议,直到最近一次进展将关注点从归纳学习转向归纳学习。尽管如此,GNN 在归纳设置下的鲁棒性仍未得到充分探索,亟需更深入地理解图神经网络的对抗训练。为此,本文提出了一种新的概念——图子空间能量(graph subspace energy, GSE)——即图能量的一个推广,用于衡量图的稳定性,作为 GNN 针对拓扑扰动鲁棒性的指标。为进一步证明该概念的有效性,本文提出一种对抗训练方法,通过最大化 GSE 正则化项生成扰动图,称为 AT-GSE。为处理 LRBCD 和 PRBCD 引发的局部和全局拓扑扰动,我们采用随机奇异值分解(RndSVD)和 Nyström 低秩近似,以分别适应 GSE 项的不同方面。大量实验表明,AT-GSE 在各种 homophily 和 heterophily 数据集上均优于当前领先的 GNN 对抗训练方法,在对抗准确率方面表现更佳,意外地在未扰动图上的干净准确率也取得更优。

关键词

引用

@article{arxiv.2412.18886,
  title  = {Adversarial Training for Graph Neural Networks via Graph Subspace Energy Optimization},
  author = {Ganlin Liu and Ziling Liang and Xiaowei Huang and Xinping Yi and Shi Jin},
  journal= {arXiv preprint arXiv:2412.18886},
  year   = {2024}
}