基于相关游走的图神经网络高阶解释方法
机器学习
2021-09-24 v3 人工智能
机器学习
摘要
图神经网络（GNNs）是预测图结构数据的一种流行方法。由于 GNNs 将输入图紧密纠缠进神经网络结构中，常见的可解释人工智能方法并不适用。迄今为止，GNNs 在很大程度上对用户而言仍是黑箱。在本文中，我们表明 GNNs 实际上可以使用高阶展开进行自然解释，即通过识别共同对预测产生贡献的边组。在实践中，我们发现此类解释可以使用嵌套归因方案提取，其中每一步均可应用层-wise 相关性传播（LRP）等现有技术。输出是一组对预测相关的输入图中的游走。我们提出的新型解释方法（记为 GNN-LRP）适用于广泛的图神经网络，并使我们能够在文本数据情感分析、量子化学中的结构-性质关系以及图像分类中提取具有实际意义的见解。
引用
@article{arxiv.2006.03589,
title = {Higher-Order Explanations of Graph Neural Networks via Relevant Walks},
author = {Thomas Schnake and Oliver Eberle and Jonas Lederer and Shinichi Nakajima and Kristof T. Schütt and Klaus-Robert Müller and Grégoire Montavon},
journal= {arXiv preprint arXiv:2006.03589},
year = {2021}
}
备注
14 pages + 6 pages supplement