基于语义感知增强的文本属性超图层次对比学习

对比学习（Contrastive Learning, CL）已成为自监督超图学习的主导范式，能够在无需高成本标签的情况下有效进行训练。然而，现实世界的超图节点往往与丰富的文本信息相关联，而这在先前研究中 largely被忽视。直接将现有的基于CL的方法应用于文本属性超图（Text-Attributed Hypergraph, TAHGs）会导致三个关键局限：（1）常用的图不可感知文本编码器无法捕捉文本语义与超图拓扑之间的关联，导致表征表达性较差；（2）依赖随机数据增强引入噪声，削弱对比信号；（3）主要关注节点级和超边级对比信号，限制了捕捉长程依赖的能力，这对有效的表征学习至关重要。为解决这些挑战，我们提出了HiTeC，一种用于TAHGs的两阶段层次对比学习框架，以实现有效的自监督学习。在第一个阶段，我们通过基于结构感知的对比目标对文本编码器进行预训练，以克服常规方法的图不可感知性。在第二个阶段，我们首先引入语义感知增强，包括结构上下文化文本增强和语义感知超边丢弃，以促进信息丰富的视图生成。随后，我们提出一种多尺度对比损失，引入基于s-walk的子图级目标，以捕捉长程依赖。实验在六个真实世界数据集上进行，结果证明了我们所提出方法的有效性。