生成式扩散模型中的潜在抽象
机器学习
2024-10-07 v1 机器学习
摘要
在本工作中，我们研究了扩散生成模型如何通过隐式依赖于低维潜在抽象集合的表现形式来生成高维数据，如图像。我们提出了一种新的理论框架，扩展了 NLF，为SDE 基于生成模型提供了独特的视角。我们理论的发展依赖于联合(状态和测量)动力学的一种新形式，以及系统状态对测量过程影响程度的信息论度量。根据我们的理论，扩散模型可被视为描述不可观测潜在抽象演化驱动可观测测量过程(对应于生成路径)动力学的SDE系统。在此基础上，我们提出了一项经验研究，以验证我们的理论以及前人关于潜在抽象在生成过程中不同阶段涌现的经验结果。
引用
@article{arxiv.2410.03368,
title = {Latent Abstractions in Generative Diffusion Models},
author = {Giulio Franzese and Mattia Martini and Giulio Corallo and Paolo Papotti and Pietro Michiardi},
journal= {arXiv preprint arXiv:2410.03368},
year = {2024}
}