HypeBoy:超图上的生成式自监督表示学习
机器学习
2024-04-02 v1
摘要
超图以复杂的拓扑结构为特征,通过超边表达多个节点间的高阶交互,更好地捕捉拓扑结构对于有效的表示学习至关重要。生成式自监督学习(SSL)的最新进展表明,从生成式自监督中学习到的超图神经网络具有有效编码复杂超图拓扑的潜力。然而,为超图设计生成式 SSL 策略并非易事。在其生成式 SSL 任务、与下游任务的联系以及所学表示的经验性质等方面仍存在疑问。鉴于这些前景与挑战,我们提出了一种新颖的超图生成式 SSL 策略。我们首先将超图上的生成式 SSL 任务形式化为超边填充,并强调其与节点分类的理论联系。基于该生成式 SSL 任务,我们提出了一种超图 SSL 方法 HypeBoy。HypeBoy 学习有效的通用超图表示,在 11 个基准数据集上优于 16 种基线方法。
引用
@article{arxiv.2404.00638,
title = {HypeBoy: Generative Self-Supervised Representation Learning on Hypergraphs},
author = {Sunwoo Kim and Shinhwan Kang and Fanchen Bu and Soo Yong Lee and Jaemin Yoo and Kijung Shin},
journal= {arXiv preprint arXiv:2404.00638},
year = {2024}
}
备注
Published as a conference paper at ICLR 2024