关于图神经网络归因扰动评估差异的研究
机器学习
2024-01-02 v1
摘要
神经网络正日益进入图领域并对特征之间的关系进行建模。与此同时，图神经网络解释方法也不断被发明，以揭示图节点之间的关系。然而，现有的归因方法之间存在差异，尚不清楚应信任哪种归因。因此，研究引入了评估实验，从不同视角对这些方法进行评估。在这项工作中，我们从一个图领域先前未被探索的视角来评估归因方法：重训练。核心思想是根据归因识别出的重要（或不重要）关系对网络进行重训练，并评估网络如何基于这些关系进行泛化。我们重新表述了重训练框架，以规避先前表述中潜伏的问题，并提出了正确分析的指导原则。我们在四种最先进的GNN归因方法和五个合成及真实世界的图分类数据集上进行了分析。分析表明，归因的性能因数据集和网络而异。最重要的是，我们观察到著名的GNNExplainer的表现与对边重要性的任意指定相似。研究得出结论，重训练评估不能用作通用基准，并建议将其作为一种工具集，用于在特定针对的网络、数据集和稀疏性上评估归因。
引用
@article{arxiv.2401.00633,
title = {On Discprecncies between Perturbation Evaluations of Graph Neural Network Attributions},
author = {Razieh Rezaei and Alireza Dizaji and Ashkan Khakzar and Anees Kazi and Nassir Navab and Daniel Rueckert},
journal= {arXiv preprint arXiv:2401.00633},
year = {2024}
}