基于理由对齐的忠实且一致的图神经网络解释方法
机器学习
2023-09-06 v2 人机交互
社会与信息网络
摘要
揭示图神经网络(GNNs)预测背后的理由近年来受到越来越多的关注。实例级 GNN 解释旨在发现目标 GNN 赖以进行预测的关键输入元素，如节点或边。尽管已提出多种算法，其中大多数通过将此任务形式化为搜索能够保持原始预测的最小子图。然而，该框架根深蒂固一种归纳偏置：若干子图可产生与原始图相同或相似的输出。因此，它们有提供伪解释和无法提供一致解释的风险。将它们用于解释性能较弱的 GNN 会进一步放大这些问题。为解决这个问题，我们从因果视角理论考察 GNN 的预测。识别出伪解释的两个典型原因：潜在变量(如分布偏移)的混杂效应，以及与原始输入不同的因果因素。观察到混杂效应和多样因果理由均编码于内部表示中，我们提出一种带辅助对齐损失的新的解释框架，理论上证明该框架本质上在优化一个更忠实的解释目标。具体地，针对该对齐损失探索了一组不同视角：基于锚点的对齐、基于高斯混合模型的分布对齐、基于互信息的对齐等。在解释忠实性/一致性方面以及这些变体的优势方面进行了全面研究。
引用
@article{arxiv.2301.02791,
title = {Faithful and Consistent Graph Neural Network Explanations with Rationale Alignment},
author = {Tianxiang Zhao and Dongsheng Luo and Xiang Zhang and Suhang Wang},
journal= {arXiv preprint arXiv:2301.02791},
year = {2023}
}
备注
TIST2023. arXiv admin note: substantial text overlap with arXiv:2205.13733