解耦作为可识别的推前因子分解

我们在光滑生成推前模型（如 VAE 和 GAN）中刻画了解耦（disentanglement）的特性。对于一个生成器/解码器 $g:Z\to X$ 和因子化的先验 $p(z)=\prod_i p_i(z_i)$，我们将解耦定义为推前密度 $p_\mu= g_\#p$ 分解为一维“接缝”因子，其中每个潜在维度控制数据的一个独立生成因子。我们证明了 $p_\mu$ 根据 $g$ 的雅可比矩阵的 SVD 进行因子化；解耦等价于 $g$ 上的两个条件（C1-C2）；并且在这些条件下，接缝因子在置换和符号变换的意义下是可识别的。在高斯（$\beta$-)VAE 的特例中，我们通过一个恒等式展示了对角后验如何在期望上促进 C1-C2，解释了为何解耦会受 $\beta$ 调制而出现。实验在高斯数据、dSprites 和 CelebA 上说明了这一机制。