面临质疑的可解释图神经网络
机器学习
2024-10-21 v2 人工智能
摘要
由于图神经网络（GNN）复杂的计算行为和图的抽象本质，其做出的预测通常缺乏可解释性。为了解决这一问题，出现了许多 GNN 解释方法。其目标是解释模型的预测，从而在 GNN 模型被部署于决策关键型应用时获得信任。大多数 GNN 解释方法以后置方式工作，并以重要边和/或节点的小子集形式提供解释。在本文中，我们证明遗憾的是这些解释无法被信任，因为常见的 GNN 解释方法极易受到对抗扰动的影响。也就是说，即使对原始图结构进行保留模型预测的微小扰动，也可能产生截然不同的解释。这使人们对 GNN 后置解释方法的可信度和实用性产生了质疑。为了能够攻击 GNN 解释模型，我们设计了一种名为 \textit{GXAttack} 的新型攻击方法，这是在此类设置下针对后置 GNN 解释的首个 \textit{基于优化的} 对抗白盒攻击方法。鉴于我们攻击的毁灭性有效性，我们呼吁对未来的 GNN 解释器进行对抗性评估以证明其鲁棒性。为了可复现性，我们的代码可通过 GitHub 获取。
引用
@article{arxiv.2406.06417,
title = {Explainable Graph Neural Networks Under Fire},
author = {Zhong Li and Simon Geisler and Yuhang Wang and Stephan Günnemann and Matthijs van Leeuwen},
journal= {arXiv preprint arXiv:2406.06417},
year = {2024}
}