用于无监督聚类的变分信息瓶颈：深度高斯混合嵌入
机器学习
2020-04-22 v3 信息论
math.IT
机器学习
摘要
在本文中，我们开发了一种结合变分信息瓶颈与高斯混合模型的无监督生成式聚类框架。具体而言，在我们的方法中，我们使用变分信息瓶颈方法并将潜空间建模为高斯混合。我们推导了模型代价函数的界，该界推广了证据下界(ELBO)，并给出了允许计算它的变分推断型算法。在算法中，编码-解码映射由神经网络参数化，该界由蒙特卡洛采样近似并通过随机梯度下降优化。我们提供了真实数据集上的数值结果以支撑方法的效率。
引用
@article{arxiv.1905.11741,
title = {Variational Information Bottleneck for Unsupervised Clustering: Deep Gaussian Mixture Embedding},
author = {Yigit Ugur and George Arvanitakis and Abdellatif Zaidi},
journal= {arXiv preprint arXiv:1905.11741},
year = {2020}
}
备注
accepted for publication in Entropy, Special Issue on Information Theory for Data Communications and Processing