基于距离步进的生成模型
机器学习
2026-02-04 v1
摘要
时序无条件生成模型学习时序无关的去噪向量场。但在无时间条件的情况下，相同的噪声输入可能对应多个噪声水平和不同的去噪方向，这会干扰监督信号。以距离场建模为灵感，我们提出 Distance Marching，一种新的时序无条件方法，包含两个原则化的推理方法。关键在于，我们设计的损失函数聚焦于更接近的目标，从而使去噪方向更准确地指向数据流形。在各种架构上，Distance Marching 在 CIFAR-10 和 ImageNet 上的 FID 分数均提升约 13.5%。对于类别条件 ImageNet 生成，尽管移除了时间输入，Distance Marching 仍超越了使用我们损失和推理方法的流匹配方法。在平均 Backbone 规模上，Distance Marching 的 FID 比流匹配的最终性能低 13.6%，同时使用 60% 的采样步骤。此外，我们的距离预测对采样中的早期停止和 OOD 检测也有所帮助。我们希望距离场建模能作为生成模型的原则性视角。
引用
@article{arxiv.2602.02928,
title = {Distance Marching for Generative Modeling},
author = {Zimo Wang and Ishit Mehta and Haolin Lu and Chung-En Sun and Ge Yan and Tsui-Wei Weng and Tzu-Mao Li},
journal= {arXiv preprint arXiv:2602.02928},
year = {2026}
}