关于黑盒时序图神经网络解释能力的局限
机器学习
2022-12-05 v1
摘要
时序图神经网络（TGNN）因其在建模时变图相关任务方面的能力，近来受到广泛关注。与图神经网络类似，由于其黑盒特性，解释 TGNN 的预测也非易事。GNN 中解决该问题的主要方法是通过分析模型输入在某些扰动下模型的响应，称为基于扰动的解释方法。尽管这些方法无需内部访问模型因而方便灵活，但这种缺乏内部访问的情况是否会阻碍它们揭示预测的一些重要信息？受该问题驱动，本文研究了若干类基于扰动的解释方法的局限。具体而言，通过构造一些特定的 TGNN 实例，我们表明：（i）节点扰动无法可靠识别执行预测的 paths；（ii）边扰动在判定所有对预测有贡献的节点方面不可靠；（iii）同时扰动节点与边无法可靠帮助我们识别 TGNN 中执行时序聚合的图组件。
引用
@article{arxiv.2212.00952,
title = {On the Limit of Explaining Black-box Temporal Graph Neural Networks},
author = {Minh N. Vu and My T. Thai},
journal= {arXiv preprint arXiv:2212.00952},
year = {2022}
}