基于对比 surrogate 目标函数的去偏图 poisoning 攻击
机器学习
2024-07-30 v1 密码学与安全
摘要
图神经网络 (GNN) 易受到对抗性攻击,这类攻击旨在通过对图结构进行难以察觉的修改来降低 GNNs 的性能。然而,我们发现事实上,当前流行的基于 meta 梯度的攻击方法会偏向训练节点。也就是说,这些攻击的 meta 梯度由代理模型的训练过程决定,而该代理模型仅在训练节点上进行训练。这种偏差表现为在对称向训练节点(即标记节点)之间的扰动不均匀:当至少有一个节点是标记节点时,攻击方法才倾向于连接这两个节点,而不太可能连接两个未标记节点。然而,这些带偏差的攻击方法并非最优,因为它们完全未考虑两个未标记节点之间边的翻转。这意味着它们错过了那些显著改变节点表示的潜在攻击边。本文通过分析 meta 梯度,揭示现有攻击方法产生不均匀扰动的根本原因。基于我们的分析,我们提出了一种使用对比 surrogate 目标函数的 meta 梯度攻击方法(Metacon),以新的代理损失函数缓解 meta 梯度中的偏差。我们进行大量实验表明,Metacon 在基准数据集上优于现有的基于 meta 梯度的攻击方法,同时表明,针对训练节点的偏差缓解在攻击图结构方面是有效的。
关键词
引用
@article{arxiv.2407.19155,
title = {Debiased Graph Poisoning Attack via Contrastive Surrogate Objective},
author = {Kanghoon Yoon and Yeonjun In and Namkyeong Lee and Kibum Kim and Chanyoung Park},
journal= {arXiv preprint arXiv:2407.19155},
year = {2024}
}
备注
9 pages. Proceeding ACM International Conference on Information and Knowledge Management (CIKM 2024) Proceeding