变分自编码器中聚合后验的匹配
机器学习
2024-10-08 v2
摘要
变分自编码器（VAE）是一种被广泛研究的深度潜变量模型（DLVM），可高效优化对数边际数据似然的变分下界，并具有坚实的理论基础。然而，VAE已知的无法匹配聚合后验的缺陷常导致潜变量分布中出现空洞（即无法匹配先验）和/或后验坍缩，后者与潜空间中的信息丢失相关。本文通过重构VAE的目标函数以解决这些缺陷，从而将聚合/边际后验分布与先验相匹配。我们使用核密度估计（KDE）对高维中的聚合后验建模。所提方法称为聚合变分自编码器（AVAE），构建于VAE的理论框架之上。在多个基准数据集上的实证评估表明，相对于最先进（SOTA）方法，AVAE具有有效性。
引用
@article{arxiv.2311.07693,
title = {Matching aggregate posteriors in the variational autoencoder},
author = {Surojit Saha and Sarang Joshi and Ross Whitaker},
journal= {arXiv preprint arXiv:2311.07693},
year = {2024}
}
备注
To appear at the International Conference on Pattern Recognition (ICPR), 2024