有限监督下的隐图推断
机器学习
2023-12-19 v2
摘要
隐图推断（LGI）旨在从数据特征中联合学习底层图结构与节点表示。然而，现有 LGI 方法普遍面临监督匮乏问题，即大量边权在无语义监督的情况下被学习，且不对训练损失产生贡献。因此，这些可能决定测试样本预测的“监督匮乏权重”无法达到语义最优，导致泛化性能不佳。在本文中，我们观察到该问题实际上由图稀疏化操作引起，其严重破坏了关键节点与有标签节点之间建立的重要连接。为此，我们提出恢复受损亲和度并补充缺失监督以改进 LGI。关键挑战在于识别关键节点并恢复受损亲和度。我们首先将关键节点定义为 跳匮乏节点，可基于给定邻接矩阵识别。考虑到高计算负担，我们进一步受 CUR 矩阵分解启发提出了更高效的替代方案。随后，我们通过重建被破坏的连接来消除匮乏节点。在代表性基准上的大量实验表明，减少匮乏节点持续提升了最先进 LGI 方法的性能，尤其在极有限监督下（在标注率仅 0.3% 的 Pubmed 上提升 6.12%）。
引用
@article{arxiv.2310.04314,
title = {Latent Graph Inference with Limited Supervision},
author = {Jianglin Lu and Yi Xu and Huan Wang and Yue Bai and Yun Fu},
journal= {arXiv preprint arXiv:2310.04314},
year = {2023}
}