图神经网络的忠实解释
机器学习
2024-10-10 v1 人工智能
摘要
注意力机制在图神经网络(GNN)中受到日益关注，例如图注意力网络(GAT)和图变换器(GT)。这不仅是因为它们能显著提升性能，还因为它们能够为模型行为提供更清晰的解释，而这类解释常被视为难以理解。然而，注意力基于的 GNN 在训练和测试阶段受到各种扰动（如额外边缘或节点）的影响时，表现出解释力的不稳定性。本文通过引入一种新概念——忠实图注意力解释(Faithful Graph Attention-based Interpretation, FGAI)，来解决这一问题。FGAI 具有四个关键属性，涉及解释的稳定性和对最终输出分布的敏感性。基于此概念，我们提出了一种高效的方法来获得 FGAI，可视为对标准注意力 GNN 的恰当修改。为验证所提出的解决方案，我们引入了两个针对图解释评估的新指标。实验结果表明，FGAI 在各种形式的扰动和随机性下表现出优异的稳定性，能够在保持注意力解释可解释性的同时，使 FGAI 成为更加忠实可靠的解释工具。
引用
@article{arxiv.2410.06950,
title = {Faithful Interpretation for Graph Neural Networks},
author = {Lijie Hu and Tianhao Huang and Lu Yu and Wanyu Lin and Tianhang Zheng and Di Wang},
journal= {arXiv preprint arXiv:2410.06950},
year = {2024}
}
备注
18 pages