攻击图结构时梯度揭示了什么
机器学习
2023-03-30 v2 人工智能
摘要
近期研究揭示图神经网络（GNN）易受针对图结构的对抗攻击。给定训练标签，恶意攻击者可以操纵有限数量的边以削弱受害者模型的性能。先前的实证研究表明，基于梯度的攻击者倾向于添加边而非移除它们。本文中，我们给出理论证明，揭示由于 GNN 的消息传递机制，攻击者倾向于增加类间边，这解释了先前的一些实证观察。通过连接不相似节点，攻击者能更有效地破坏节点特征，使此类攻击更具优势。然而，我们证明 GNN 消息传递的固有平滑性倾向于模糊特征空间中节点不相似性，导致前向过程中关键信息丢失。为解决该问题，我们提出一种保留节点不相似性信息的多级传播代理模型。该模型并行传播未聚合原始特征与多跳聚合特征，同时引入批归一化以增强节点表示中的不相似性并抵消拓扑聚合带来的平滑性。我们的实验显示该方法显著改进。此外，理论与实验证据均表明添加类间边构成一种易观测的攻击模式。我们提出一种平衡攻击效力与隐蔽性的创新攻击损失，牺牲部分攻击效力以获更大隐蔽性。我们也提供实验验证通过该攻击损失达成的折中性能。
引用
@article{arxiv.2208.12815,
title = {What Does the Gradient Tell When Attacking the Graph Structure},
author = {Zihan Liu and Ge Wang and Yun Luo and Stan Z. Li},
journal= {arXiv preprint arXiv:2208.12815},
year = {2023}
}