用于节点聚类的对比变分图自编码器
机器学习
2023-12-29 v1 人工智能
摘要
变分图自编码器（VGAE）已被广泛用于解决节点聚类任务。然而，最先进的方法存在诸多挑战。首先，现有的 VGAE 在引入聚类归纳偏置后，未考虑推理模型与生成模型之间的差异。其次，当前模型容易退化到使潜在编码独立于输入信号而匹配先验的解决方案（即后验坍缩，Posterior Collapse）。第三，现有的 VGAE 忽略了噪声聚类分配的影响（即特征随机性，Feature Randomness）以及聚类与重建之间强权衡的影响（即特征漂移，Feature Drift）。为了解决这些问题，我们在对比设置中构建了一个变分下界。我们的下界是对对数似然函数比相应的证据下界（ELBO）更紧致的近似。得益于一个新发现的项，我们的下界能够逃离后验坍缩，并具有更大的灵活性来考虑推理模型与生成模型之间的差异。此外，我们的解决方案具有两种机制来控制特征随机性和特征漂移之间的权衡。大量实验表明，所提出的方法在多个数据集上实现了最先进的聚类结果。我们提供了强有力的证据，表明这种改进归因于四个方面：整合对比学习，缓解特征随机性、特征漂移和后验坍缩。
引用
@article{arxiv.2312.16830,
title = {A Contrastive Variational Graph Auto-Encoder for Node Clustering},
author = {Nairouz Mrabah and Mohamed Bouguessa and Riadh Ksantini},
journal= {arXiv preprint arXiv:2312.16830},
year = {2023}
}