图神经网络认知不确定性的准确且可扩展估计
机器学习
2023-09-21 v1
摘要
在分布偏移下安全部署图神经网络(GNNs)要求模型提供准确的置信指标(CI)。然而，尽管在计算机视觉中已知 CI 质量在分布偏移下会下降，该行为在 GNN 中仍缺乏充分研究。为此，我们首先在受控的结构与特征分布偏移下对 CI 校准进行案例研究，表明更高的表达能力或模型规模并不总带来更好的 CI 性能。因此，我们转而倡导使用认知不确定性量化(UQ)方法来调节 CI。为此，我们提出 G-UQ，一种新的单模型 UQ 方法，它将近期提出的随机中心化框架扩展至支持结构化数据与部分随机性。在协变量、概念与图规模偏移上的评估表明，G-UQ 不仅在获取校准 CI 上优于多种流行 UQ 方法，在将 CI 用于泛化差距预测或 OOD 检测时也优于其他替代方法。总体而言，我们的工作不仅引入了一种新的、灵活的 GNN UQ 方法，也为安全关键任务中 GNN 的 CI 提供了新见解。
引用
@article{arxiv.2309.10976,
title = {Accurate and Scalable Estimation of Epistemic Uncertainty for Graph Neural Networks},
author = {Puja Trivedi and Mark Heimann and Rushil Anirudh and Danai Koutra and Jayaraman J. Thiagarajan},
journal= {arXiv preprint arXiv:2309.10976},
year = {2023}
}
备注
22 pages, 11 figures