具有高效采样信号的高图自监督学习
机器学习
2024-04-19 v1
摘要
自监督学习（SSL）为高图上的表示学习提供了一种有前景的替代方案，无需昂贵的标签。然而，现有的高图SSL模型大多基于实例级判别策略的对比方法，存在两个显著局限性：（1）它们任意选择负样本，在决定相似和不相似对时不可靠，导致训练偏差。（2）它们通常需要大量负样本，导致计算成本高昂。为了解决上述问题，我们提出了SE-HSSL，一种具有三种高效采样自监督信号的高图SSL框架。具体来说，我们引入了两个无采样目标，利用典型相关分析作为节点级和组级自监督信号。此外，我们开发了一种新颖的层次成员级对比目标，受高图中级联重叠关系的启发，可以进一步减少成员采样偏差并提高样本利用效率。通过在7个真实世界高图上的全面实验，我们证明了我们的方法在有效性和效率方面均优于最先进的方法。
引用
@article{arxiv.2404.11825,
title = {Hypergraph Self-supervised Learning with Sampling-efficient Signals},
author = {Fan Li and Xiaoyang Wang and Dawei Cheng and Wenjie Zhang and Ying Zhang and Xuemin Lin},
journal= {arXiv preprint arXiv:2404.11825},
year = {2024}
}
备注
9 pages,4 figures,4 tables