基于不变性的潜在空间嵌入多聚类用于等变学习
机器学习
2021-07-27 v1 机器学习
摘要
变分自编码器（VAE）已被证明在恢复多个计算机视觉任务的模型潜在空间方面非常有效。然而，由于多种原因，当前训练的VAE似乎在潜在空间中学习不变和等变聚类方面存在不足。我们的工作专注于为这一问题提供解决方案，并提出一种方法，通过强制深度群不变学习来解耦李群流形中的等变特征映射。同时，我们通过使用混合模型概率密度函数（如高斯混合模型）用于不变聚类嵌入，实现了潜在空间表示中语义变量和等变变量的新颖分离，从而构建了一个改进的证据下界（ELBO），允许进行优越的无监督变分聚类。我们的实验表明，该模型有效地学习了解耦不变和等变表示，与当前最佳的深度学习模型相比，在学习率上有显著提升，并在图像识别和规范状态重建方面表现出可观察到的优越性。
引用
@article{arxiv.2107.11717,
title = {Invariance-based Multi-Clustering of Latent Space Embeddings for Equivariant Learning},
author = {Chandrajit Bajaj and Avik Roy and Haoran Zhang},
journal= {arXiv preprint arXiv:2107.11717},
year = {2021}
}
备注
The codebase for MCEVAE is available at https://github.com/CVC-Lab/MCE-VAE