使用自蒸馏的图神经网络不确定性量化
机器学习
2025-08-28 v1 人工智能
摘要
图神经网络（GNNs）在医疗保健领域展现了卓越的性能。然而，量化GNNs的预测不确定性仍然具有挑战性，而这在临床环境中是可信赖性的一个重要方面。虽然贝叶斯方法和集成方法可用于量化不确定性，但它们计算成本高昂。此外，集成方法用于计算不确定性的不一致性度量无法捕捉集成网络中模型的多样性。在本文中，我们提出了一种基于知识蒸馏的新方法，以更高效、更高精度地量化GNNs的不确定性。我们应用自蒸馏，其中同一个网络同时充当教师和学生模型，从而避免了独立训练多个网络的需要。为确保自蒸馏的效果，我们开发了一种不确定性度量，通过为每个GNN分类器分配不同的权重来捕捉网络的多样性。我们在两个图数据集MIMIC-IV和Enzymes上实验评估了我们方法在区分分布外数据方面的精度、性能和能力。评估结果表明，所提出的方法能够有效捕捉模型的预测不确定性，同时具有与MC Dropout和集成方法相似的性能。代码公开于https://github.com/tailabTMU/UQ_GNN。
引用
@article{arxiv.2506.20046,
title = {GNN's Uncertainty Quantification using Self-Distillation},
author = {Hirad Daneshvar and Reza Samavi},
journal= {arXiv preprint arXiv:2506.20046},
year = {2025}
}
备注
The paper has been accepted in the International Conference on AI in Healthcare (AIiH) 2025 and will appear in the conference proceedings