面向通过在线知识蒸馏解释 GNN 的多种专长学习器
机器学习
2022-10-21 v1 人工智能
摘要
图神经网络（GNNs）在众多应用与系统中已变得日益普遍，这使其预测的必要性解释凸显，尤其在做出关键决策时。然而，由于图数据和模型执行的复杂性，解释 GNN 颇具挑战。尽管有额外的计算成本，事后解释方法因其架构的通用性而被广泛采用。内在可解释模型提供即时解释，但通常为模型特定，只能解释特定的 GNN。因此，我们提出了一种名为 SCALE 的新型 GNN 解释框架，该框架通用且快速。由于构建单一强大解释器来检验输入图中交互的归因是复杂的，SCALE 训练多个专长学习器来解释 GNN。在训练中，黑盒 GNN 模型基于在线知识蒸馏范式引导学习器。在解释阶段，预测的解释由对应于已训练学习器的多个解释器提供。具体而言，执行边掩码和带重启的随机游走过程，分别提供图级和节点级预测的结构性解释。特征归因模块提供整体摘要和实例级特征贡献。我们通过定量与定性实验将 SCALE 与最先进基线比较，以证明其解释正确性与执行性能。我们还进行了一系列消融研究，以理解所提框架的优势与弱点。
引用
@article{arxiv.2210.11094,
title = {Toward Multiple Specialty Learners for Explaining GNNs via Online Knowledge Distillation},
author = {Tien-Cuong Bui and Van-Duc Le and Wen-syan Li and Sang Kyun Cha},
journal= {arXiv preprint arXiv:2210.11094},
year = {2022}
}
备注
13 pages, 11 figures, A preliminary paper under review of IEEE ICDE 2023