GISExplainer：基于博弈论交互子图的图神经网络可解释性

可解释性对于黑盒图神经网络在医疗、金融、网络安全等关键领域的应用至关重要。各种特征归因方法，尤其是基于扰动的方法，已被提出用于指示每个节点/边对模型预测的贡献程度。然而，这些方法无法生成考虑不同联盟尺度内边之间因果交互的连通解释性子图，这将导致不忠实的解释。在我们的研究中，我们提出了GISExplainer，一种新颖的基于博弈论交互的解释方法，通过发现人类可解释的因果解释性子图来揭示底层GNN在节点分类中学到了什么。首先，GISExplainer定义了一种因果归因机制，该机制考虑候选解释性子图中多粒度联盟的博弈论交互，以量化边对预测的因果效应。其次，GISExplainer假设对预测具有负面影响的联盟对模型解释也很重要，并且计算图的贡献源于联盟内正负交互的共同影响。然后，GISExplainer将解释任务视为一个序列决策过程，在该过程中，根据边的因果效应，依次选择显著边并将其连接到先前选择的子图以形成解释性子图，最终力求更好的解释。此外，通过联盟采样，为因果归因机制提出了一种效率优化方案。大量实验表明，在保真度和稀疏性这两个定量指标上，GISExplainer取得了优于最先进方法的性能。