从图神经网络到树:图神经网络的多粒度可解释性
机器学习
2025-05-02 v1
摘要
可解释图神经网络(GNN)旨在揭示模型预测背后的推理过程,将其决策归因于具有信息量的特定子图。然而,现有基于子图的可解释方法过度强调局部结构,可能忽略了整个图中的长程依赖关系。尽管近期依赖图粗化的努力已被证明有益于全局可解释性,但它们不可避免地将图缩减到固定的粒度。这种不灵活的方式只能捕获特定层次的图连接性,而现实世界的图任务通常表现出不同粒度的关系(例如,蛋白质中的相关相互作用跨越功能基团、氨基酸乃至蛋白质结构域)。在本文中,我们为图分类引入了一种新颖的树状可解释框架(TIF),其中普通的GNN被转换为层次树,每个层次以不同粒度的粗化图作为树节点。具体来说,TIF迭代地采用图粗化模块将原始图(即树的根节点)压缩为越来越粗的图(即树的子节点),同时通过专用的图扰动模块保持不同分支树节点间的多样性。最后,我们提出了一个自适应路由模块来识别最具信息量的根到叶路径,不仅提供最终预测,还为决策过程提供多粒度可解释性。在合成和真实世界图分类基准数据集上的大量实验证明了TIF在可解释性方面的优越性,同时提供了与最先进方法相媲美的竞争性预测性能。
引用
@article{arxiv.2505.00364,
title = {From GNNs to Trees: Multi-Granular Interpretability for Graph Neural Networks},
author = {Jie Yang and Yuwen Wang and Kaixuan Chen and Tongya Zheng and Yihe Zhou and Zhenbang Xiao and Ji Cao and Mingli Song and Shunyu Liu},
journal= {arXiv preprint arXiv:2505.00364},
year = {2025}
}
备注
Accepted by ICLR 2025