基于自适应视图图编码器的结构感知分组判别:一种快速图对比学习框架
机器学习
2023-03-10 v1 人工智能
摘要
尽管近期取得显著进展,大规模图表示学习的训练与部署仍因两个主要原因而成本高昂:(i)图神经网络(GNNs)中多跳消息传递与非线性的重复计算;(ii)复杂成对对比学习损失的计算代价。本文针对这一双重挑战作出两项主要贡献:我们首先提出一种限定消息传递次数的自适应视图图神经编码器(AVGE)以加速前向计算,随后在我们的框架中提出结构感知分组判别(SAGD)损失,其避免了大多数常见 GCL 中低效的成对损失计算并提升了简单分组判别的性能。借助所提框架,我们在各类大规模数据集上将训练与推理成本显著降低(推理时间加快 250 倍)且不损失下游任务性能。
引用
@article{arxiv.2303.05231,
title = {Structure-Aware Group Discrimination with Adaptive-View Graph Encoder: A Fast Graph Contrastive Learning Framework},
author = {Zhenshuo Zhang and Yun Zhu and Haizhou Shi and Siliang Tang},
journal= {arXiv preprint arXiv:2303.05231},
year = {2023}
}