基于 annealing 编码策略的层次向量量化图自编码器
机器学习
2025-04-18 v1
摘要
图自监督学习近年来受到广泛关注。然而，许多现有方法依赖扰动，而不当的扰动可能破坏图的内在信息。向量量化变分自编码器（VQ-VAE）是计算机视觉等领域中广泛使用的强大自编码器，但其在图数据上的应用仍受到忽视。本文对向量量化在图自编码器语境中的应用进行经验性分析，证明其显著增强了模型捕获图拓扑结构的能力。此外，我们确定了将向量量化应用于图数据时存在的两个关键挑战：码本 underutilization 和 码本空间稀疏。针对第一个挑战，我们提出一种基于 annealing 的编码策略，旨在训练早期促进广泛的码使用，逐渐转向最有效的码。针对第二个挑战，我们引入一种层次化两层码本，通过聚类捕获嵌入之间的关系。第二层码本链接相似的码，鼓励模型学习具有相似特征和结构拓扑的节点之间的更近似的嵌入。我们提出的模型在自监督链接预测和节点分类任务中超过了 16 个具有代表性的基线方法。
引用
@article{arxiv.2504.12715,
title = {Hierarchical Vector Quantized Graph Autoencoder with Annealing-Based Code Selection},
author = {Long Zeng and Jianxiang Yu and Jiapeng Zhu and Qingsong Zhong and Xiang Li},
journal= {arXiv preprint arXiv:2504.12715},
year = {2025}
}