中文

基于高斯混合变分自编码器的深度无监督聚类

机器学习 2017-01-16 v2 神经与进化计算 机器学习

摘要

我们研究了一种以高斯混合为先验分布的变分自编码器模型(VAE)的变体,旨在通过深度生成模型进行无监督聚类。我们观察到,在常规 VAE 中已证实出现的过正则化已知问题也在我们的模型中显现,并导致聚类退化。我们表明,一种被称为最小信息约束的启发式方法(已在 VAE 中被证明可缓解此效应)也可应用于我们的模型以改善无监督聚类性能。此外,我们分析了该启发式方法的效果,并借助可视化提供对各过程的直观理解。最后,我们在合成数据、MNIST 和 SVHN 上展示了我们模型的性能,表明所获得的聚类是可区分的、可解释的,并在无监督聚类上取得了与最先进结果相竞争的性能。

关键词

引用

@article{arxiv.1611.02648,
  title  = {Deep Unsupervised Clustering with Gaussian Mixture Variational Autoencoders},
  author = {Nat Dilokthanakul and Pedro A. M. Mediano and Marta Garnelo and Matthew C. H. Lee and Hugh Salimbeni and Kai Arulkumaran and Murray Shanahan},
  journal= {arXiv preprint arXiv:1611.02648},
  year   = {2017}
}

备注

12 pages, 6 figures, Under review as a conference paper at ICLR 2017