GCI：一种图概念解释框架
机器学习
2023-02-13 v1
摘要
可解释人工智能 (XAI) 近期在概念提取研究上激增，聚焦于从深度神经网络中提取人类可解释的概念。概念提取方法面临的一个重要挑战是难以解释和评估所发现的概念，尤其对于分子性质预测等复杂任务。我们通过提出 GCI：一种 (G)raph (C)oncept (I)nterpretation（图概念解释）框架来应对该挑战，用于定量度量从图神经网络 (GNNs) 中发现的概念与其对应人类解释之间的一致性。GCI 将概念解释编码为函数，可用于定量度量给定解释与概念定义之间的一致性。我们展示了 GCI 的四种应用： (i) 定量评估概念提取器， (ii) 度量概念提取器与人类解释之间的一致性， (iii) 度量解释相对于终端任务的完备性，以及 (iv) GCI 在分子性质预测中的实际应用，其中我们展示如何使用化学官能团解释在分子性质预测任务上训练的 GNNs，并以 0.76 的 AUCROC 完备性得分实现解释。
引用
@article{arxiv.2302.04899,
title = {GCI: A (G)raph (C)oncept (I)nterpretation Framework},
author = {Dmitry Kazhdan and Botty Dimanov and Lucie Charlotte Magister and Pietro Barbiero and Mateja Jamnik and Pietro Lio},
journal= {arXiv preprint arXiv:2302.04899},
year = {2023}
}