中文

STARFlow:高分辨率图像合成中的扩展潜在正规化流

计算机视觉与模式识别 2025-06-10 v1 人工智能 机器学习

摘要

我们提出STARFlow,一种基于正规化流的可扩展生成模型,在高分辨率图像合成方面实现卓越性能。STARFlow的核心是Transformer自回归流( TARFlow),它将正规化流的表达力与自回归Transformer的结构建模能力相结合。我们首先确立了TARFlow对连续分布建模的理论通用性。基于此基础,我们引入若干关键的架构和算法创新,显著提升了可扩展性:(1)深浅设计,其中深层Transformer块承担大部分模型表示容量,配合少量计算高效的浅层Transformer块;(2)在预训练自编码器的潜在空间中进行建模,优于直接的像素级建模;(3)一种新型引导算法显著提升样本质量。关键的是,我们的模型仍是端到端的正规化流,能够在连续空间中进行精确的最大似然训练,无需离散化。STARFlow在类别条件和文本条件图像生成任务中均实现了竞争性能,接近最先进的扩散模型的样本质量。已知我们是首次成功证明正规化流在此规模和分辨率下能够有效运行。

关键词

引用

@article{arxiv.2506.06276,
  title  = {STARFlow: Scaling Latent Normalizing Flows for High-resolution Image Synthesis},
  author = {Jiatao Gu and Tianrong Chen and David Berthelot and Huangjie Zheng and Yuyang Wang and Ruixiang Zhang and Laurent Dinh and Miguel Angel Bautista and Josh Susskind and Shuangfei Zhai},
  journal= {arXiv preprint arXiv:2506.06276},
  year   = {2025}
}

备注

TLDR: We show for the first time that normalizing flows can be scaled for high-resolution and text-conditioned image synthesis