中文

用于建模文档网络的可扩展 Weibull 图注意力自编码器

机器学习 2024-10-15 v1 机器学习

摘要

虽然已有的变分图自编码器(VGAEs)在建模和生成图结构数据方面被广泛使用,但大多数情况下仍不够灵活,难以逼近稀疏且分布不均的潜在节点表示,尤其是文档关系网络(DRNs)具有离散观测值的情况。为了分析一系列相互关联的文档,一个典型的贝叶斯模型分支——关系主题模型(RTMs)在描述 DRNs 的链接结构和文档内容方面已被证明具有效能,这也激发了我们将 RTMs 与现有 VGAEs 结合以缓解其在建模 DRNs 生成过程中的潜在问题。本文超越了传统 RTMs 的复杂近似假设,发展了图泊松因子分析(GPFA),该模型提供解析后验,提高推断精度,并将 GPFA 扩展为多层蒙特利尔版本,称为图泊松伽马信念网络(GPGBN),以捕获多个语义层次上的文档关系。然后,以 GPGBN 作为解码器,我们将其与各种基于 Weibull 分布的图推断网络相结合, resulting in two variants of Weibull graph auto-encoder(WGAE),并配以模型推断算法。实验结果表明,我们的模型能够提取高质量的分层潜在文档表示,并在各种图分析任务上实现令人满意的性能。

关键词

引用

@article{arxiv.2410.09696,
  title  = {Scalable Weibull Graph Attention Autoencoder for Modeling Document Networks},
  author = {Chaojie Wang and Xinyang Liu and Dongsheng Wang and Hao Zhang and Bo Chen and Mingyuan Zhou},
  journal= {arXiv preprint arXiv:2410.09696},
  year   = {2024}
}

备注

Submit to T-PAMI