SimCalib:基于节点相似性的图神经网络校准
机器学习
2023-12-20 v1 社会与信息网络
摘要
图神经网络(GNN)在图数据建模方面展现出优异的性能,这在各种应用中得到了证明。近期,GNN 校准问题引起了越来越多的关注,尤其是在代价敏感的场景中。先前的工作在该问题上获得了经验性见解,并设计了有效的方法,但理论支撑仍然不足。在本工作中,我们通过理论分析阐明了 GNN 校准与节点相似性之间的关系。据此,我们提出了一个名为 SimCalib 的新型校准框架,以在全局和局部层面考虑节点间的相似性。在全局层面,整合当前节点与类原型之间的马氏距离,以隐式地考虑当前节点与同一类中所有节点之间的相似性。在局部层面,考虑了由节点同质性和相对度所量化的节点表示运动动力学的相似性。受节点运动模式在分析过平滑问题中节点行为的启发,我们经验性地展示了过平滑与 GNN 校准问题之间可能存在的关系。实验上,我们发现了节点相似性与模型校准改进之间的相关性,这与我们的理论结果相一致。此外,我们进行了广泛的实验以探究不同的设计因素,并通过在 16 个基准中的 14 个上取得 SOTA 性能,证明了我们提出的 SimCalib 框架在 GNN 校准上的有效性。
引用
@article{arxiv.2312.11858,
title = {SimCalib: Graph Neural Network Calibration based on Similarity between Nodes},
author = {Boshi Tang and Zhiyong Wu and Xixin Wu and Qiaochu Huang and Jun Chen and Shun Lei and Helen Meng},
journal= {arXiv preprint arXiv:2312.11858},
year = {2023}
}