论测度图对抗攻击不可见性:观察、新度量与应用
机器学习
2025-01-10 v1 人工智能
摘要
对抗攻击被声称是不可被察觉的。先前研究在图上设计了攻击可见性度量,主要使用统计检验来比较原始图与(可能被攻击的)图的拓扑结构。然而,我们观察到两种关键局限性。第一,由于该度量依赖简单规则,攻击者可以轻易增强其攻击以规避这些度量,降低攻击的“可见性”,同时维持攻击性能。第二,由于该度量滥用全局统计量(如度分布),它们可能在严重扰动发生前完全忽视攻击,使攻击几乎“完全不可见”。为缓解这些局限性,我们提出HideNSeek——一种用于图攻击可见性度量的可学习方法。首先,为缓解规避问题,HideNSeek使用可学习边评分器(LEO)学习区分原始边与(潜在)攻击边,该评分器对每条边的是否为攻击边的可能性进行评分。其次,为缓解忽视问题,HideNSeek对所有边评分进行不平衡感知聚合,以获得最终的可见性评分。我们在六个真实图上进行实证研究,证明HideNSeek有效缓解了所观察到的局限性,LEO(即我们的可学习边评分器)在五种不同攻击方法下 outperform了十一个竞争者。作为额外应用,我们展示了LEO通过删除攻击样边来提升鲁棒图神经网络(GNN)性能。
引用
@article{arxiv.2501.05015,
title = {On Measuring Unnoticeability of Graph Adversarial Attacks: Observations, New Measure, and Applications},
author = {Hyeonsoo Jo and Hyunjin Hwang and Fanchen Bu and Soo Yong Lee and Chanyoung Park and Kijung Shin},
journal= {arXiv preprint arXiv:2501.05015},
year = {2025}
}
备注
KDD 2025