图神经网络的逻辑蒸馏
机器学习
2024-08-22 v3 人工智能
摘要
我们提出了一种基于逻辑的可解释模型用于图上的学习以及从图神经网络（GNN）蒸馏此模型的算法。最近的研究表明，GNN的表达性与两变量的一阶逻辑带计数量词的片段（C2）之间存在联系。我们引入一种基于决策树的模型，利用C2的扩展来从GNN蒸馏可解释逻辑分类器。我们在多个GNN架构上测试了该方法。蒸馏得到的模型是可解释的、简洁的，并且在准确率上接近底层GNN。此外，当ground truth可被表达为C2时，我们的方法优于GNN。
引用
@article{arxiv.2406.07126,
title = {Logical Distillation of Graph Neural Networks},
author = {Alexander Pluska and Pascal Welke and Thomas Gärtner and Sagar Malhotra},
journal= {arXiv preprint arXiv:2406.07126},
year = {2024}
}
备注
To Appear in the Proceedings of KR 2024