通过对抗训练实现可靠图神经网络解释
机器学习
2021-06-28 v1
摘要
图神经网络（GNN）的解释在很大程度上是通过事后 introspection 实现的。尽管这被认为取得了成功，但许多事后解释方法已被证明无法捕捉模型学到的表示。由于这一问题，值得考虑如何训练模型以使其更适于事后分析。鉴于对抗训练在计算机视觉领域训练具有更可靠表示的模型方面取得成功，我们提出了一种类似的 GNN 训练范式，并分析了其对模型解释的影响。在没有真实标签的情况下，我们还通过一个新的度量确定解释方法对模型所学表示的利用程度，并证明对抗训练有助于在化学领域更好地提取与领域相关的见解。
引用
@article{arxiv.2106.13427,
title = {Reliable Graph Neural Network Explanations Through Adversarial Training},
author = {Donald Loveland and Shusen Liu and Bhavya Kailkhura and Anna Hiszpanski and Yong Han},
journal= {arXiv preprint arXiv:2106.13427},
year = {2021}
}
备注
4 pages, 3 figures, ICML Workshop on Theoretic Foundation, Criticism, and Application Trend of Explainable AI