从经典概率潜变量模型到现代生成式 AI：统一视角

尽管生成式人工智能 (Generative AI) 的架构各异，但许多模型共享概率潜变量模型 (Probabilistic Latent Variable Models, PLVMs) 的共同基础，其中隐藏变量用于解释观测数据，以进行密度估计、潜在推理和结构推断。本文在 PLVM 框架下提供了统一视角，将经典和现代生成方法置于同一范畴。我们追溯从经典平坦模型（如概率主成分分析、高斯混合模型、潜在类分析、项目反应理论和潜在 Dirichlet 分配）到顺序扩展模型（包括隐马尔可夫模型、高斯 HMM 和线性动态系统），再到当代深度架构：变分自编码器作为深度 PLVM、正规化流作为可计算 PLVM、扩散模型作为顺序 PLVM、自回归模型作为显式生成模型以及生成对抗网络作为隐式 PLVM。将这些架构置于常见概率分类下，揭示了共享原则、不同推断策略以及塑造其优势的表征权衡。我们提供了一个概念路线图，整合了生成式 AI 的理论基础，澄清了方法的亲缘关系，并通过将新兴架构置于概率遗产中来指导未来创新。