精炼隐表示：一种面向异质图学习的生成式SSL方法
机器学习
2024-04-23 v4 人工智能
摘要
自监督学习（SSL）在图学习中已展现出显著潜力并引起日益增加的关注。然而，特别是对于生成式SSL方法，其在异质图学习（HGL）中的潜力仍相对未被充分探索。生成式SSL利用编码器将输入图映射为隐表示，并利用解码器从隐表示恢复输入图。既往的HGL SSL方法通常设计复杂策略以捕获图异质性，严重依赖于常为非平凡的对比视图构造策略。而精炼生成式SSL中的隐表示可有效改善图学习效果。在本研究中，我们提出HGVAE，一种专为HGL设计的生成式SSL方法。HGVAE不侧重于设计复杂策略捕获异质性，而是以精炼隐表示为核心。具体而言，HGVAE基于隐表示创新性地开发了一项对比任务。为保障负样本的困难度，我们开发了渐进式负样本生成（PNSG）机制，利用变分推断（VI）的能力生成高质量负样本。作为将生成式SSL应用于HGL的先驱，HGVAE精炼隐表示，从而迫使模型学习高质量表示。与多种最先进（SOTA）基线相比，HGVAE取得了令人印象深刻的成果，由此验证了其优越性。
引用
@article{arxiv.2310.11102,
title = {Refining Latent Representations: A Generative SSL Approach for Heterogeneous Graph Learning},
author = {Yulan Hu and Zhirui Yang and Sheng Ouyang and Yong Liu},
journal= {arXiv preprint arXiv:2310.11102},
year = {2024}
}