从导航到细化：通过Oracle Velocity揭示基于流的扩散模型的两阶段本质
机器学习
2026-04-13 v3 人工智能
摘要
基于流的扩散模型已成为训练图像和视频生成模型的主要范式，但其记忆-泛化行为仍鲜为人知。本文我们重新审视流匹配(FM)目标，研究其边际速度场，该速度场可采用闭式表达式，允许对oracle FM目标进行精确计算。分析该oracle速度场发现，基于流的扩散模型本质上 formulation了一个两阶段训练目标：一个由数据模式混合物引导的早期阶段，以及一个由最近数据样本主导的后期阶段。两阶段目标导致不同的学习行为：早期导航阶段在数据模式之间进行全局泛化以形成全局布局，而后期细化阶段逐渐记忆细粒度细节。利用这些见解，我们解释了诸如时间步移位日程、分类器自由指导区间以及潜在空间设计选择等实用技术的有效性。我们的研究深化了对扩散模型训练动力学的理解，并为指导未来的架构和算法改进提供了原则。我们的项目页面地址为：https://maps-research.github.io/from-navigation-to-refinement/。
引用
@article{arxiv.2512.02826,
title = {From Navigation to Refinement: Revealing the Two-Stage Nature of Flow-based Diffusion Models through Oracle Velocity},
author = {Haoming Liu and Jinnuo Liu and Yanhao Li and Liuyang Bai and Yunkai Ji and Yuanhe Guo and Shenji Wan and Hongyi Wen},
journal= {arXiv preprint arXiv:2512.02826},
year = {2026}
}
备注
Accepted to CVPR 2026 (Findings track); 16 pages, 17 figures