图神经网络解释评估中的去混杂
机器学习
2022-02-02 v3
摘要
图神经网络（GNNs）的可解释性旨在回答“为何 GNN 做出某一预测？”，这对于解释模型预测至关重要。特征归因框架将 GNN 的预测分配给其输入特征（如边），识别出有影响力的子图作为解释。在评估解释（即子图重要性）时，一种标准方法是仅基于子图审查模型预测。然而，我们认为全图与子图之间存在分布偏移，导致分布外问题。此外，通过深入的因果分析，我们发现 OOD 效应充当混杂因子，在子图重要性与模型预测之间带来虚假关联，使评估可靠性降低。在本工作中，我们提出去混杂子图评估（DSE），其评估解释性子图对模型预测的因果效应。虽然分布偏移通常难以处理，我们采用前门调整并引入子图的替代变量。具体而言，我们设计生成模型以生成符合数据分布的可信替代变量，从而逼近子图重要性的无偏估计。实证结果证明了 DSE 在解释保真度方面的有效性。
引用
@article{arxiv.2201.08802,
title = {Deconfounding to Explanation Evaluation in Graph Neural Networks},
author = {Ying-Xin Wu and Xiang Wang and An Zhang and Xia Hu and Fuli Feng and Xiangnan He and Tat-Seng Chua},
journal= {arXiv preprint arXiv:2201.08802},
year = {2022}
}
备注
18 pages