基于算法的概念可解释推理
机器学习
2021-07-16 v1
摘要
近期关于图神经网络（GNN）模型的研究成功地将 GNN 应用于经典图算法与组合优化问题。这带来了诸多益处，例如允许在前提条件不满足时应用算法，或在缺乏充足训练数据或无法生成训练数据时重用已学习模型。遗憾的是，这些方法的一个关键障碍是缺乏可解释性，因为 GNN 是无法直接解释的黑盒模型。在本工作中，我们通过将已有的基于概念的解释方法应用于 GNN 模型来克服这一局限。我们引入了概念瓶颈 GNN，其依赖于对 GNN 读出机制的修改。通过三个案例研究，我们表明：（i）我们提出的模型能够准确学习概念，并基于所学概念为每个目标类提取命题公式；（ii）我们基于概念的 GNN 模型达到了与最先进模型相当的性能；（iii）我们可以推导全局图概念，而无需显式提供任何图级概念的监督。
引用
@article{arxiv.2107.07493,
title = {Algorithmic Concept-based Explainable Reasoning},
author = {Dobrik Georgiev and Pietro Barbiero and Dmitry Kazhdan and Petar Veličković and Pietro Liò},
journal= {arXiv preprint arXiv:2107.07493},
year = {2021}
}
备注
preprint