基于选择性推断的图神经网络显著性图统计检验
机器学习
2025-09-04 v2 机器学习
摘要
图神经网络（GNN）因其处理多种领域中图结构数据的能力而日益受到关注。然而，解释 GNN 的决策仍是一个重要挑战，导致采用显著性图（saliency maps）来识别由影响节点和边组成的显著子图。尽管这些方法具有实用性，但关于 GNN 显著性图可靠性的质疑仍然存在，尤其是其对输入噪声的鲁棒性。本研究提出了一种统计检验框架，以严格评估显著性图的显著性。我们的主要贡献在于解决由数据双重滥用（double-dipping）导致的 Type I 错误率膨胀问题，利用选择性推断（Selective Inference）框架。该方法在控制 Type I 错误率的同时，提供统计上有效的 -值，确保所识别的显著子图包含有意义的信息，而非随机误 artifact。该方法适用于具有分段线性（如 Class Activation Mapping）的多种显著性方法。我们在合成数据和真实数据集上验证了该方法，展示了其评估 GNN 解释可靠性的能力。
引用
@article{arxiv.2505.16893,
title = {Statistical Test for Saliency Maps of Graph Neural Networks via Selective Inference},
author = {Shuichi Nishino and Tomohiro Shiraishi and Teruyuki Katsuoka and Ichiro Takeuchi},
journal= {arXiv preprint arXiv:2505.16893},
year = {2025}
}