超越对角协方差：基于自由形式内射流的灵活后验 VAE
机器学习
2025-06-03 v1 机器学习
摘要
变分自编码器 (VAEs) 是强大的生成模型，被广泛用于学习可解释的潜在空间、量化不确定性以及为下游生成任务压缩数据。由于计算限制，VAEs 通常依赖对角高斯后验。基于微分几何的论证，我们证明了对角协方差 VAEs 在表示能力上存在固有局限，并通过明确的低维示例进行了说明。作为应对，我们证明了近期引入的自由形式内射流 (FIF) 的正则化变体可被解释为一种具有高度灵活、隐式定义后验的 VAE。关键在于，这种正则化产生了一个等价于全高斯协方差分布的后验，同时维持了与标准对角协方差 VAEs 相当的计算成本。在图像数据集上的实验验证了我们的方法，表明纳入全协方差显著提升了模型似然。
引用
@article{arxiv.2506.01522,
title = {Beyond Diagonal Covariance: Flexible Posterior VAEs via Free-Form Injective Flows},
author = {Peter Sorrenson and Lukas Lührs and Hans Olischläger and Ullrich Köthe},
journal= {arXiv preprint arXiv:2506.01522},
year = {2025}
}