GRAPHSHAP：通过基序语言解释身份感知图分类器
机器学习
2023-07-10 v2 人工智能
摘要
大多数解释黑盒分类器的方法（例如针对表格数据、图像或时间序列）依赖于衡量移除/扰动特征对模型输出的影响。这迫使解释语言与分类器的特征空间相匹配。然而，在处理图数据时，其基本特征对应于描述图结构的边，这种特征空间与解释语言之间的匹配可能并不合适。因此，将特征空间（边）与期望的高层解释语言（如基序）解耦，是开发图分类任务可操作解释的一大挑战。本文中我们引入GRAPHSHAP，一种基于Shapley的方法，能够为身份感知图分类器提供基于基序的解释，且无需关于模型或其训练数据的任何知识：唯一要求是分类器可作为黑盒随意查询。为计算效率起见，我们探索了一种渐进式近似策略，并展示一个简单的核如何高效近似解释分数，从而使GRAPHSHAP能够扩展到具有大型解释空间（即大量基序）的场景。我们在由自闭症谱系障碍患者和对照组组成的真实脑网络数据集上展示了GRAPHSHAP。我们的实验凸显了黑盒模型给出的分类可如何被少数连接组学模式有效解释。
引用
@article{arxiv.2202.08815,
title = {GRAPHSHAP: Explaining Identity-Aware Graph Classifiers Through the Language of Motifs},
author = {Alan Perotti and Paolo Bajardi and Francesco Bonchi and André Panisson},
journal= {arXiv preprint arXiv:2202.08815},
year = {2023}
}
备注
Accepted by International Joint Conference on Neural Networks 2023 (IJCNN)