扰动越多，陷阱越多：理解图神经网络的行为
机器学习
2020-04-29 v2 机器学习
摘要
尽管图神经网络（GNN）在各种图任务中展现了巨大潜力，但缺乏透明度阻碍了理解 GNN 如何得出其预测。虽然已有少量针对 GNN 的解释器被探索，但对局部保真度（表明模型在待预测实例周围的行为）的考虑却被忽略了。本文首先针对任意已训练的 GNN 提出了一种基于局部保真度的新型事后解释框架——TraP2，该框架能够生成高保真度的解释。考虑到既需要突出相关的图结构，又需要突出每个节点内部的重要特征，TraP2 设计了三层架构：i）由 Translation 层预先定义解释域；ii）由 Perturbation 层探测和监控被解释 GNN 的局部预测行为，在该层中对图结构和特征级在解释域内进行多次扰动；iii）通过 Paraphrase 层拟合局部决策边界生成高保真解释。最后，在六个基准数据集上基于五种期望属性（准确性、保真度、 decisiveness、insight 和 inspiration）对 TraP2 进行了评估，其解释准确性比 SOTA 方法高出 。
引用
@article{arxiv.2004.09808,
title = {Perturb More, Trap More: Understanding Behaviors of Graph Neural Networks},
author = {Chaojie Ji and Ruxin Wang and Hongyan Wu},
journal= {arXiv preprint arXiv:2004.09808},
year = {2020}
}