自对比图扩散网络

增强技术与采样策略在对比学习中至关重要，但在大多数现有工作中，增强技术需要精心设计，且其采样策略只能捕获少量内在监督信息。此外，现有方法需要复杂设计以获得数据的两种不同表示。为克服这些局限，我们提出一种称为自对比图扩散网络（SCGDN）的新框架。我们的框架由两个主要组件构成：注意力模块（AttM）和扩散模块（DiFM）。AttM 聚合高阶结构与特征信息以获得优异的嵌入，而 DiFM 通过拉普拉斯扩散学习平衡图中每个节点的状态，并允许图中邻接信息与特征信息的协同演化。与现有方法不同，SCGDN 是一种无需增强的方法，避免了“采样偏差”和语义漂移，且无需预训练。我们基于结构与特征信息对样本进行高质量采样。若两个节点为邻居，则它们被视为彼此的正样本。若两个不相连节点在 $k$NN 图上也无关联，则它们被视为彼此的负样本。对比目标合理地使用了我们提出的采样策略，且冗余减少项最小化了嵌入中的冗余信息，并能很好地保留更多判别性信息。在这一新框架中，图自对比学习范式展现出强大威力。SCGDN 有效平衡了保留高阶结构信息与避免过拟合。结果表明，SCGDN 能持续地优于对比方法与经典方法。