GNNAnatomy: 重新思考图神经网络的模型级解释
机器学习
2025-06-10 v3 信息检索
社会与信息网络
摘要
图神经网络（GNN）在基于图的任务中取得卓越的性能，但仍然难以解释。本文重新审视了图神经网络模型级解释方法所基于的根本假设，包括：（1）最大化分类置信度会产生具有代表性的解释、（2）单个解释足以覆盖整个图类、（3）解释本质上是可信的。我们识别出这些假设所导致的陷阱：优化分类置信度的方法可能忽略部分学习的模式；同一类别中图子集之间的拓扑多样性常被低估；而解释本身在应用于新数据集或新模型时提供的信任支持有限。本文引入 GNNAnatomy，一种基于蒸馏的方法，旨在生成解释且避免上述陷阱。GNNAnatomy 首先使用图基（graphlets）来描述图的拓扑结构，这是一组基本子结构。随后，我们训练一个透明的多层感知器（MLP）代理，直接基于图表示逼近 GNN 的预测。通过分析分配给每个图基的权重，我们识别出最具辨识力的拓扑结构，这些结构作为 GNN 的解释。为account for类别内的结构多样性，GNNAnatomy 通过一个支持人机协作的界面，以所需的细粒度生成解释。该界面帮助用户识别驱动类别差异的不同关键子结构所在的图子集，从而实现多层次解释。此外，通过支持探索并将解释链接回输入图，界面促进了更大的透明度和信任。我们在合成数据集和真实数据集上评估了 GNNAnatomy，通过定量指标和与状态-of-the-art模型级可解释 GNN 方法的定性比较进行评估。
引用
@article{arxiv.2406.04548,
title = {GNNAnatomy: Rethinking Model-Level Explanations for Graph Neural Networks},
author = {Hsiao-Ying Lu and Yiran Li and Ujwal Pratap Krishna Kaluvakolanu Thyagarajan and Kwan-Liu Ma},
journal= {arXiv preprint arXiv:2406.04548},
year = {2025}
}