面向使用解释引导的消息传递训练图神经网络
机器学习
2022-12-02 v2 人工智能
摘要
随着图神经网络（GNN）在关键现实世界应用中的日益普及，已有多种事后解释方法被提出以理解其预测。然而，目前尚无工作在模型训练期间实时生成解释并利用其提升底层 GNN 模型的表达能力。在本工作中，我们为 GNN 引入了一种新颖的解释引导的神经消息传递框架，即 EXPASS（EXplainable message PASSing），该框架仅聚合由 GNN 解释方法识别为重要的节点和边的嵌入。EXPASS 可与任何现有的 GNN 架构及子图优化解释器结合使用，以学习准确的图嵌入。我们从理论上证明，EXPASS 通过减缓狄利克雷能量的逐层损失，缓解了 GNN 中的过平滑问题，并且普通消息传递与 EXPASS 框架之间的嵌入差异可由它们各自的模型权重差异进行上界限制。我们的实证结果表明，使用 EXPASS 学习的图嵌入提升了预测性能并缓解了 GNN 的过平滑问题，为图机器学习开辟了开发基于解释的训练框架的新前沿。
引用
@article{arxiv.2211.16731,
title = {Towards Training GNNs using Explanation Directed Message Passing},
author = {Valentina Giunchiglia and Chirag Varun Shukla and Guadalupe Gonzalez and Chirag Agarwal},
journal= {arXiv preprint arXiv:2211.16731},
year = {2022}
}
备注
Accepted to the proceedings of the First Learning on Graphs Conference (LoG 2022)