利用比特翻转攻击图神经网络:Weisfeiler-Lehman测试失去区分能力
机器学习
2024-08-19 v2 人工智能
密码学与安全
神经与进化计算
摘要
先前对图神经网络的攻击大多集中于图投毒与规避,忽视了网络的权重与偏置。传统的基于权重的故障注入攻击(如用于卷积神经网络的比特翻转攻击)未考虑图神经网络的独特性质。我们提出了注入性比特翻转攻击(Injectivity Bit Flip Attack),这是首个专为图神经网络设计的比特翻转攻击。我们的攻击针对量化消息传递神经网络中可学习的邻域聚合函数,削弱其区分图结构的能力并丧失Weisfeiler-Lehman测试的表示能力。我们的发现表明,利用特定图神经网络架构所特有的数学性质可显著增强其对比特翻转攻击的脆弱性。注入性比特翻转攻击仅通过翻转网络极少比例的比特,就能将训练于多个图属性预测数据集上的最大表达力图同构网络(Graph Isomorphism Networks)降级为随机输出,展现出相比从卷积神经网络迁移来的比特翻转攻击更高的破坏力。我们的攻击是透明的,并由理论洞见所驱动,这些洞见得到了大量实证结果的证实。
引用
@article{arxiv.2311.01205,
title = {Attacking Graph Neural Networks with Bit Flips: Weisfeiler and Lehman Go Indifferent},
author = {Lorenz Kummer and Samir Moustafa and Nils N. Kriege and Wilfried N. Gansterer},
journal= {arXiv preprint arXiv:2311.01205},
year = {2024}
}