基于计算树视角的消息传递神经网络中忠实且准确的自注意力归因
机器学习
2024-12-23 v2 人工智能
信息论
神经与进化计算
社会与信息网络
math.IT
摘要
自注意力机制已被广泛应用于各种流行的消息传递神经网络（MPNNs）中，使模型能够自适应地控制沿底层图边缘流动的信息量。这种基于注意力的MPNNs（Att-GNNs）也被用作可解释人工智能（XAI）多项研究的基线，因为注意力一直被视为自然的模型解释，同时这一观点已在其他领域（如自然语言处理和计算机视觉）得到普及。然而，现有研究通常使用朴素计算从注意力中推导归因分数，削弱了注意力作为Att-GNNs解释的潜力。在我们的研究中，我们旨在填补Att-GNNs广泛使用与其通过注意力的潜在可解释性之间的差距。为此，我们提出了GATT，一种基于计算树（反映底层模型计算过程的有根树）的自注意力MPNNs边缘归因计算方法。尽管方法简单，我们通过使用合成和真实世界基准数据集，在模型解释的三个维度（忠实性、解释准确性和案例研究）上实证证明了GATT的有效性。在所有情况下，结果表明GATT显著改善了边缘归因分数，尤其是与之前的朴素方法相比。我们的代码可在https://github.com/jordan7186/GAtt获取。
引用
@article{arxiv.2406.04612,
title = {Faithful and Accurate Self-Attention Attribution for Message Passing Neural Networks via the Computation Tree Viewpoint},
author = {Yong-Min Shin and Siqing Li and Xin Cao and Won-Yong Shin},
journal= {arXiv preprint arXiv:2406.04612},
year = {2024}
}
备注
29 pages, 14 figures, 17 tables; an extended version of our paper to be presented at the 39th AAAI Conference on Artificial Intelligence (AAAI-25) (Please cite our conference version.)