XInsight：基于流生成解释的 GNN 模型洞察揭示方法

近年来图神经网络进展迅速，在药物发现、医学诊断和推荐系统等方面涌现诸多新发展。尽管进展显著，许多网络仍是“黑箱”，对其究竟学习“什么”知之甚少。许多高风险应用（如药物发现）需要模型提供人类可理解的解释，以便用户识别错误并发现新知识。因此，可解释 AI 算法的开发对于我们获取 AI 的益处至关重要。我们提出了一种称为 eXplainable Insight（XInsight）的 GNN 解释算法，利用 GFlowNets 生成模型解释的分布。由于 GFlowNets 以正比于奖励的概率生成对象，与仅学习最大奖励样本的前期方法相比，XInsight 可生成多样化的解释集合。我们通过在两个图分类任务上训练的 GNN 生成解释来展示 XInsight：使用 MUTAG 数据集对致突变化合物分类，以及使用我们已开源的合成数据集对无环图分类。我们通过 QSAR 建模分析所生成的化合物，展示了 XInsight 解释的效用，发现 XInsight 生成的化合物按亲脂性聚类，而亲脂性是致突变性的已知相关因素。我们的结果表明，XInsight 生成了解释的分布，揭示了模型所展示的潜在关系。它们也凸显了生成多样化解释集合的重要性，因其使我们能发现模型中的隐藏关系并为进一步分析提供宝贵指导。