从点到球:变分自编码器的几何重解释
机器学习
2025-08-22 v2
摘要
变分自编码器通常从概率推断的视角进行理解。本文提出了一种新的几何重解释,既补充了概率观点,又增强了直观性。我们展示,语义流形的正确构建主要来源于KL散度对编码器的约束作用。我们将潜在表示视为高斯球,而非确定性点。在KL散度的约束下,高斯球对潜在空间进行正则化,促进编码分布的更均匀分布。进一步地,我们表明重参数化在编码器和解码器之间建立了关键的契约机制,使解码器能够学习如何从这些随机区域进行重构。我们进一步将这一观点与VQ-VAE联系起来,提供了一个统一的视角:VQ-VAE可视为编码受限于聚类中心的自编码器,其生成能力源于紧凑性而非随机性。这种几何框架提供了一种新视角,用于理解VAE如何塑造潜在几何以实现有效生成。
引用
@article{arxiv.2507.17255,
title = {From Points to Spheres: A Geometric Reinterpretation of Variational Autoencoders},
author = {Songxuan Shi},
journal= {arXiv preprint arXiv:2507.17255},
year = {2025}
}