SeeGera：基于掩码的自监督半隐式图变分自编码器
机器学习
2023-02-08 v3
摘要
生成式图自监督学习（SSL）旨在通过重建输入图数据来学习节点表示。然而，多数现有方法仅关注无监督学习任务，且极少有工作显示出其相对于最先进图对比学习（GCL）模型的优越性，尤其在分类任务上。尽管近期有模型试图弥合此差距，其在无监督学习任务上的性能仍属未知。本文中，为全面提升生成式图 SSL 相对于其他 GCL 模型在无监督与有监督学习任务上的性能，我们提出 SeeGera 模型，其基于自监督变分图自编码器（VGAE）族。具体而言，SeeGera 采用半隐式变分推断框架（一种层次化变分框架），并主要关注特征重建与结构/特征掩码。一方面，SeeGera 在编码器中协同嵌入节点与特征，并在解码器中重建连边与特征。由于特征嵌入蕴含丰富的特征语义信息，其可与节点嵌入结合，为特征重建提供细粒度知识。另一方面，SeeGera 在层次化变分框架上增加一层结构/特征掩码，提升了模型泛化性。我们开展了广泛实验，将 SeeGera 与 9 个其他最先进竞品比较。结果表明，SeeGera 在多种无监督与有监督学习任务上均可媲美其他最先进 GCL 方法。
引用
@article{arxiv.2301.12458,
title = {SeeGera: Self-supervised Semi-implicit Graph Variational Auto-encoders with Masking},
author = {Xiang Li and Tiandi Ye and Caihua Shan and Dongsheng Li and Ming Gao},
journal= {arXiv preprint arXiv:2301.12458},
year = {2023}
}
备注
Accepted by WebConf 2023