无辅助信息的深度生成模型可辨识性

我们证明了一大类深度潜变量模型的可辨识性，这些模型 (a) 具有通用逼近能力，且 (b) 是实践中常用的变分自编码器的解码器。与现有工作不同，我们的分析不需要弱监督、辅助信息或潜空间中的条件作用。具体而言，我们表明对于一大类具有通用逼近能力的生成式（即无监督）模型，侧信息 $u$ 并非必要：我们证明了整个生成模型的可辨识性，其中我们不观测 $u$ 而仅观测数据 $x$。我们所考虑的模型与实际中使用的自编码器架构相匹配，这些架构在潜空间中利用混合先验，并在编码器中采用 ReLU/leaky-ReLU 激活，例如 VaDE 和 MFC-VAE。我们的主要结果是一个可辨识性层级，它显著推广了先前的工作，并揭示了不同假设如何导致不同“强度”的可辨识性，且将某些具有各向同性高斯先验的“ vanilla” VAE 作为特例包含在内。例如，我们最弱的结果建立了直至仿射变换的（无监督）可辨识性，从而部分解决了先前工作中提出的关于模型可辨识性的一个开放问题。这些理论结果辅以在模拟和真实数据上的实验。