通过所学概念的逻辑组合实现 GNN 的全局可解释性

尽管 GNN 的实例级解释是一个研究充分的问题且已开发了大量方法，但为 GNN 的行为提供全局解释却少有探索，尽管其在可解释性与调试方面具有潜力。现有方案要么简单列出给定类的局部解释，要么生成具有给定类最大分数的合成原型图，完全遗漏了 GNN 可能学到的任何组合特性。在本工作中，我们提出 GLGExplainer（基于逻辑的全局 GNN 解释器），这是首个能够生成作为所学图式概念的任意布尔组合解释的全局解释器。GLGExplainer 是一种全可微架构，以局部解释为输入，并将其组合为图式概念上的逻辑公式，这些概念表示为局部解释的簇。与现有方案相反，GLGExplainer 提供准确且人类可解释的全局解释，其与真实解释（在合成数据上）完全一致或匹配现有领域知识（在真实世界数据上）。提取出的公式忠实于模型预测，甚至能洞察模型偶尔学到的不正确规则，使 GLGExplainer 成为已训练 GNN 的一种有前景的诊断工具。