通过子图依赖实现图神经网络中可信的类别级自可解释性
机器学习
2025-08-18 v1 人工智能
摘要
增强图神经网络（GNN）的可解释性对于确保其安全、公平部署至关重要。近期工作引入了自可解释 GNN，在训练过程中生成解释，同时提升了忠实性和效率。其中一些模型，如 ProtGNN 和 PGIB，学习类别特定的原型，为实现类别级解释提供了潜在途径。然而，它们的评估仅关注实例级解释，留下了这些原型是否有意义地泛化到同一类的不同实例的问题。在本文中，我们引入了 GraphOracle，一个用于为 GNN 生成和评估类别级解释的新自可解释 GNN 框架。我们的模型联合学习一个 GNN 分类器和一组对每个类别具有判别力的结构化稀疏子图。我们提出了一种新颖的集成训练，高效且忠实地捕获图-子图-预测依赖关系，并通过基于掩码的评估策略进行验证。该策略使我们能够回顾性地评估 ProtGNN 和 PGIB 等先前方法是否提供了有效的类别级解释。结果表明它们没有。相比之下，GraphOracle 在一系列图分类任务中实现了更优越的忠实性、可解释性和可扩展性。我们进一步证明，GraphOracle 通过使用熵正则化子图选择和轻量级随机游走提取，避免了先前方法（如蒙特卡洛树搜索）的计算瓶颈，从而实现了更快、更可扩展的训练。这些发现使 GraphOracle 成为图神经网络中可信类别级自可解释性的实用且原理性的解决方案。
引用
@article{arxiv.2508.11513,
title = {Towards Faithful Class-level Self-explainability in Graph Neural Networks by Subgraph Dependencies},
author = {Fanzhen Liu and Xiaoxiao Ma and Jian Yang and Alsharif Abuadbba and Kristen Moore and Surya Nepal and Cecile Paris and Quan Z. Sheng and Jia Wu},
journal= {arXiv preprint arXiv:2508.11513},
year = {2025}
}
备注
14 pages, 12 figures