鲁棒性对图神经网络可解释性的质疑：何去何从？
机器学习
2025-05-06 v1 人工智能
摘要
图神经网络 (GNN) 已成为基于图的数据分析的基石，广泛应用于生物信息学、社交网络和推荐系统等多个领域。然而，模型可解释性与鲁棒性之间的相互作用仍然知之甚少，尤其是在投毒和规避攻击等对抗性场景下。本文提出了一个全面的基准测试，以系统分析各种因素对 GNN 可解释性的影响，包括增强鲁棒性的防御机制的影响。我们在来自两个不同领域的五个数据集上评估了基于 GCN、SAGE、GIN 和 GAT 的六种 GNN 架构，采用了四种可解释性指标：保真度、稳定性、一致性和稀疏性。我们的研究考察了在模型训练之前和期间应用的针对投毒和规避攻击的防御措施如何影响可解释性，并强调了鲁棒性与可解释性之间的关键权衡。该框架将作为开源项目发布。结果揭示了可解释性根据所选择的防御方法和模型架构特征而存在的显著差异。通过建立标准化的基准，这项工作为开发既对对抗性威胁具有鲁棒性又可解释的 GNN 奠定了基础，从而促进其在敏感应用中的部署信任。
引用
@article{arxiv.2505.02566,
title = {Robustness questions the interpretability of graph neural networks: what to do?},
author = {Kirill Lukyanov and Georgii Sazonov and Serafim Boyarsky and Ilya Makarov},
journal= {arXiv preprint arXiv:2505.02566},
year = {2025}
}