利用人工可模拟性研究量化图神经网络归因解释的内在有用性

尽管可解释人工智能的重要性日益增加，评估解释的质量仍然是一个具有挑战性的问题。由于人体受试者实验成本高昂，常常使用各种代理指标来近似量化解释质量。一般而言，解释质量的一种可能解读是其在向学生讲授相关概念时的固有价值。在这项工作中，我们将人工可模拟性研究扩展到图神经网络领域。我们不使用成本高昂的人体试验，而是使用可解释监督的图神经网络来进行可模拟性研究，以量化归因图解释的固有有用性。我们进行了广泛的消融研究，以探究所提出分析在何种条件下最有意义。我们还验证了我们的方法在真实世界图分类和回归数据集上的适用性。我们发现相关解释能显著提升图神经网络的样本效率，并分析了其对解释中噪声和偏置的鲁棒性。我们认为，从我们提出的可模拟性分析中获得的有用性概念提供了一个解释质量的维度，该维度在很大程度上与忠实性这一常见做法正交，并极有潜力拓展解释质量评估的工具箱，特别是对于图解释。