图神经网络上的鲁棒反事实解释
机器学习
2022-07-14 v3 人工智能
摘要
图神经网络（GNNs）在高风险应用中的大规模部署产生了对能够鲁棒抗噪且符合人类直觉的解释的强烈需求。大多数现有方法通过识别输入图中与预测强相关的子图来生成解释。这些解释对噪声不鲁棒，因为对单个输入独立优化相关性很容易过拟合噪声。此外，它们不符合人类直觉，因为从输入图中移除所识别的子图未必改变预测结果。本文中，我们提出一种新方法，通过显式建模GNNs在相似输入图上的共同决策逻辑，来生成GNNs上的鲁棒反事实解释。我们的解释天然对噪声鲁棒，因为它们源于支配许多相似输入图预测的GNN共同决策边界。这些解释也符合人类直觉，因为从输入图中移除解释所识别的边集会显著改变预测。在多个公开数据集上的详尽实验证明了我们方法的优越性能。
引用
@article{arxiv.2107.04086,
title = {Robust Counterfactual Explanations on Graph Neural Networks},
author = {Mohit Bajaj and Lingyang Chu and Zi Yu Xue and Jian Pei and Lanjun Wang and Peter Cho-Ho Lam and Yong Zhang},
journal= {arXiv preprint arXiv:2107.04086},
year = {2022}
}