In-n-Out:校准图神经网络以进行链路预测
机器学习
2024-03-11 v2
摘要
深度神经网络以校准不当而闻名,即其输出不能反映我们旨在预测的事件的真实概率。虽然用于表格或图像数据的网络通常过于自信,但最近的工作表明,图神经网络 (GNN) 在节点级分类中表现出相反的行为。但是当我们预测链路时会发生什么?我们表明,在这种情况下,GNN 通常表现出混合行为。更具体地说,它们可能在负预测中过于自信,而在正预测中不够自信。基于这一观察,我们提出了 IN-N-OUT,这是有史以来第一种用于校准 GNN 进行链路预测的方法。IN-N-OUT 基于两个简单的直觉:i) 在遵循 GNN 预测的同时为边赋予真/假标签,应该只会引起该边嵌入的微小波动;反之,ii) 如果我们在与 GNN 矛盾的情况下为同一条边打上标签,嵌入应该会发生更实质性的改变。广泛的实验活动表明,IN-N-OUT 显著改善了 GNN 在链路预测中的校准,始终优于现有的基线方法——这些方法并非针对这一特定任务而设计。
引用
@article{arxiv.2403.04605,
title = {In-n-Out: Calibrating Graph Neural Networks for Link Prediction},
author = {Erik Nascimento and Diego Mesquita and Samuel Kaski and Amauri H Souza},
journal= {arXiv preprint arXiv:2403.04605},
year = {2024}
}
备注
18 pages, 4 figures, 8 tables