面向无架构依赖的VAE后期塌陷局部控制
机器学习
2025-08-19 v1 计算机视觉与模式识别
机器学习
摘要
变分自编码器（VAEs）是最广泛使用的生成模型之一，已知会因后期塌陷而导致生成样本的多样性降低。为避免后期塌陷，许多先前工作尝试控制正则化损失的影响。然而，重建与正则化之间的权衡并不令人满意。因此，提出了几种方法来保证潜在变量的可识别性，这是避免后期塌陷的关键。但这些方法需要对网络架构施加结构性约束。为了进一步澄清，我们定义了局部后期塌陷，以反映数据空间中 individual sample points 的重要性，从而放宽网络约束。然后，我们提出了Latent Reconstruction（LR）损失，该损失受到单射函数和复合函数数学性质的启发，用于在不限制特定架构的情况下控制后期塌陷。我们在MNIST、fashionMNIST、Omniglot、CelebA和FFHQ等多个数据集上对我们的方法进行了实验评估，该方法在各种数据集上控制后期塌陷。
引用
@article{arxiv.2508.12530,
title = {Toward Architecture-Agnostic Local Control of Posterior Collapse in VAEs},
author = {Hyunsoo Song and Seungwhan Kim and Seungkyu Lee},
journal= {arXiv preprint arXiv:2508.12530},
year = {2025}
}
备注
8 pages, 6 figures