从无消息传递中提炼自知识以对比链接分类图节点
机器学习
2021-06-17 v1 人工智能
摘要
如今,遵循消息传递范式的图神经网络(GNN)成为图形数据学习的主流方式。该范式下的模型必须耗费额外空间通过邻接矩阵查找相邻节点,并耗费额外时间聚合来自相邻节点的多条消息。为解决此问题,我们提出了一种称为 LinkDist 的方法,该方法将相连节点对中的自知识提炼到一个多层感知机(MLP)中,而无需聚合消息。在 8 个真实世界数据集上的实验表明,由 LinkDist 导出的 MLP 可在不知晓节点邻接关系的情况下预测节点标签,并在半监督和全监督节点分类场景下取得与 GNN 相当的精度。此外,LinkDist 得益于其非消息传递范式,我们还能以对比方式从任意采样的节点对中提炼自知识,从而进一步提升 LinkDist 的性能。
引用
@article{arxiv.2106.08541,
title = {Distilling Self-Knowledge From Contrastive Links to Classify Graph Nodes Without Passing Messages},
author = {Yi Luo and Aiguo Chen and Ke Yan and Ling Tian},
journal= {arXiv preprint arXiv:2106.08541},
year = {2021}
}
备注
9 pages, 2 figures, 4 tables