通过对比学习从图中提取全局概念解释

除了提高信任度和验证模型公平性外，可解释AI（xAI）实践还可能在缺乏先验人类直觉的应用领域中恢复有价值的科学见解。为此，我们提出了一种从图神经网络的预测中提取全局概念解释的方法，以更深入地理解结构-性质关系背后的任务。我们将概念解释识别为自解释Megan模型子图潜在空间中稠密的聚类。对于每个概念，我们优化一个代表性原型图，并可选地使用GPT-4提供关于该结构对预测具有何种效果的假设。我们在合成和真实世界的图属性预测任务上进行了计算实验。对于合成任务，我们发现该方法正确地再现了其创建结构规则。对于真实世界的分子毒性预测回归和分类任务，我们发现该方法重新发现了已知的经验法则。更具体地说，我们的结果表明，对于分子致突变性预测，比现有解释方法具有更细粒度的结构细节解析力，这与化学文献中的结果一致。总体而言，我们的结果显示，从复杂图属性预测任务中提取潜在结构-性质关系具有相当大的潜力。