在图神经网络中编码概念
机器学习
2022-08-09 v3 人工智能
计算机科学中的逻辑
摘要
图神经网络不透明的推理导致了人类信任的缺失。现有的图网络解释器试图通过提供事后解释来解决此问题，但它们未能使模型本身更具可解释性。为填补这一空白，我们引入概念编码器模块，这是首个面向图网络的可微分概念发现方法。所提方法通过先发现图概念再用以解决任务，从设计上使图网络可解释。我们的结果表明该方法使图网络能够：(i) 取得与其对应原始版本相当的模型精度，(ii) 发现具有高浓度与高纯度得分的有意义概念，(iii) 为其预测提供高质量的基于概念的逻辑解释，以及 (iv) 在测试时支持有效干预：这些可增进人类信任并显著提升模型性能。
引用
@article{arxiv.2207.13586,
title = {Encoding Concepts in Graph Neural Networks},
author = {Lucie Charlotte Magister and Pietro Barbiero and Dmitry Kazhdan and Federico Siciliano and Gabriele Ciravegna and Fabrizio Silvestri and Mateja Jamnik and Pietro Lio},
journal= {arXiv preprint arXiv:2207.13586},
year = {2022}
}