关于图神经网络的预测不稳定性
机器学习
2022-05-23 v1
摘要
训练模型的不稳定性，即单个节点预测对随机因素的依赖性，会影响机器学习系统的可复现性、可靠性和可信度。在本文中，我们系统评估了最先进图神经网络（GNNs）进行节点分类时的预测不稳定性。通过实验，我们确定在同一数据上以相同模型超参数训练的热门 GNN 模型的多个实例化产生几乎相同的聚合性能，但在单个节点的预测上表现出显著分歧。我们发现高达三分之一的错误分类节点在不同算法运行间存在差异。我们识别出超参数、节点属性和训练集大小与预测稳定性之间的相关性。一般而言，最大化模型性能也隐式地降低了模型不稳定性。
引用
@article{arxiv.2205.10070,
title = {On the Prediction Instability of Graph Neural Networks},
author = {Max Klabunde and Florian Lemmerich},
journal= {arXiv preprint arXiv:2205.10070},
year = {2022}
}
备注
17 pages, 11 figures