消除 MeanFlow 中的曲率瓶颈
计算机视觉与模式识别
2026-03-31 v3 人工智能
摘要
MeanFlow 提供了一种针对单步生成建模的有前景的框架,通过直接学习均值速度场,绕过了昂贵的数值积分。然而,我们发现现有模型高度曲线的生成轨迹会诱导噪声密集的损失景观,严重瓶颈收敛和模型质量。我们利用几何原理来克服这一点:均值速度估计在直线路径上要简单得多。在此基础上,我们提出了 Rectified MeanFlow,这是一种自蒸馏方法,通过由预训练模型产生的直线化耦合诱导的直线化速度场上学习均值速度场。为进一步促进线性化,我们引入一种基于距离的截断启发式方法,以修剪残余高曲率配对。通过平滑优化景观,我们的方法实现了强大的单步生成性能。在相同训练预算下,将基线 MeanFlow 模型的 FID 从 30.9 提升至 8.6,而在 FID 上比最新的 2-rectified flow++ 高出 33.4%,同时运行速度快 26 倍。我们的工作表明,单步流生成的困难部分源自由曲线轨迹诱导的陡峭优化景观。代码已公开于 https://github.com/Xinxi-Zhang/Re-MeanFlow。
引用
@article{arxiv.2511.23342,
title = {Overcoming the Curvature Bottleneck in MeanFlow},
author = {Xinxi Zhang and Shiwei Tan and Quang Nguyen and Quan Dao and Ligong Han and Xiaoxiao He and Tunyu Zhang and Chengzhi Mao and Dimitris Metaxas and Vladimir Pavlovic},
journal= {arXiv preprint arXiv:2511.23342},
year = {2026}
}