概要变分图自编码器
机器学习
2020-08-10 v3 机器学习
摘要
变分自编码器（VAE）是用于学习潜在表示的广泛使用的生成模型。Burda 等人在其开创性论文中表明，VAE 的学习能力受限于过度剪枝。这是一种现象，即大量潜在变量无法捕获关于输入数据的任何信息，相应的隐藏单元变得不活跃。这 adversely 影响了学习多样且可解释的潜在表示。由于变分图自编码器（VGAE）将 VAE 扩展至图结构数据，它继承了过度剪枝问题。在本文中，我们采用基于模型的方法，提出了概要 VGAE（EVGAE），这是一个用于图数据集的生成式变分框架，它成功缓解了过度剪枝问题，并提升了 VGAE 的生成能力。我们将 EVGAE 视为由多个稀疏 VGAE 模型组成，这些模型被称为概要，是共享潜在空间的潜在变量组。这种方法有助于增加活跃单元，因为概要相互竞争以学习图数据的更好表示。我们通过在三个基准数据集上的实验验证了我们的主张。我们的实验表明，EVGAE 比 VGAE 具有更好的生成能力。此外，在引文网络的链路预测任务中，EVGAE 优于 VGAE。
引用
@article{arxiv.2004.01468,
title = {Epitomic Variational Graph Autoencoder},
author = {Rayyan Ahmad Khan and Muhammad Umer Anwaar and Martin Kleinsteuber},
journal= {arXiv preprint arXiv:2004.01468},
year = {2020}
}