ClusterDDPM：一种基于去噪扩散概率模型的EM聚类框架
机器学习
2023-12-14 v1 计算机视觉与模式识别
摘要
变分自编码器（VAE）和生成对抗网络（GAN）在聚类中得到了广泛应用并取得了显著成功。然而，由于VAE平庸的生成能力或GAN在对抗训练中众所周知的不稳定性，这些方法的潜力可能受到限制。相比之下，去噪扩散概率模型（DDPMs）代表了一类新兴且有前景的生成模型，可能开启聚类的新维度。在本研究中，我们引入了一种创新的使用DDPMs进行聚类的期望最大化（EM）框架。在E步中，我们旨在为后续的M步推导出高斯混合先验。在M步中，我们的重点在于通过使用条件DDPM并将潜在表示的分布与高斯混合先验进行匹配，来学习适合聚类的数据潜在表示。我们对M步中的优化过程进行了严格的理论分析，证明了在特定约束下，这些优化等价于在标准EM框架内最大化Q函数的下界。全面的实验验证了所提出框架的优势，在聚类、无条件条件生成和潜在表示学习方面展示了优越的性能。
引用
@article{arxiv.2312.08029,
title = {ClusterDDPM: An EM clustering framework with Denoising Diffusion Probabilistic Models},
author = {Jie Yan and Jing Liu and Zhong-yuan Zhang},
journal= {arXiv preprint arXiv:2312.08029},
year = {2023}
}