面向图神经网络的弹性防御框架 Crossfire：抗比特翻转攻击
机器学习
2025-04-21 v1
摘要
比特翻转攻击 (BFA) 是一种已建立的对抗攻击方法，最初用于计算机视觉领域的卷积神经网络。最近，这些攻击被扩展到针对图神经网络 (GNN)，揭示了其显著的脆弱性。这自然引发了一个问题：面对 BFA，GNN 的最佳防御策略是什么？目前尚无解决方案。鉴于 GNN 在关键领域的应用，任何防御机制都必须不仅保持网络性能，还能可验证地将网络恢复至攻击前状态。可验证地恢复网络至攻击前状态还消除了对测试数据进行高成本评估以确保网络质量的需求。我们对现有基于蜂窝和哈希防御措施针对 GNN 适配的 BFA 有效性提供了首次见解，并刻画了这些方法的局限性。为克服其局限，我们提出 Crossfire，一种混合方法，利用权重稀疏性，将蜂窝和哈希结合起来，对超出分布权重元素的比特级纠错，以恢复网络完整性。Crossfire 是无需再训练且不需要标记数据。在 2160 项针对六个基准数据集的实验中，Crossfire 以 21.8% 的优势高于竞争方案的概率，成功重建了被 BFA 攻击的 GNN。这些实验覆盖了来自各种攻击的最多 55 次比特翻转。此外，它通过 10.85% 的提升提高了修复后预测质量。计算和存储开销远低于最简单 GNN 固有的复杂度。
引用
@article{arxiv.2501.13776,
title = {Crossfire: An Elastic Defense Framework for Graph Neural Networks Under Bit Flip Attacks},
author = {Lorenz Kummer and Samir Moustafa and Wilfried Gansterer and Nils Kriege},
journal= {arXiv preprint arXiv:2501.13776},
year = {2025}
}
备注
Accepted at AAAI 2025, DOI will be included after publication