基于连续时间一致性的图像无时步蒸馏，采用轨迹抽样对
计算机视觉与模式识别
2025-11-26 v1
摘要
时步蒸馏是提高扩散模型生成效率的有效方法。Consistency Model (CM) 作为一种基于轨迹的框架，展现出巨大的潜力，由于其强大的理论基础和高质量的少步生成。然而，当前的连续时间一致性蒸馏方法仍严重依赖训练数据和计算资源，限制了其在资源受限的场景中的部署，并限制了其对多样化领域的可扩展性。为此，我们提出了 Trajectory-Backward Consistency Model (TBCM)，通过从教师模型的生成轨迹中直接提取潜在表示，消除了对外部训练数据的依赖。不同于需要 VAE 编码和大规模数据集的常规方法，我们的自包含蒸馏范式显著提高了效率和简单性。此外，轨迹抽取的样本自然桥接了训练和推理之间的分布差异，从而实现更有效的知识传递。经实验验证，TBCM 在 MJHQ-30k 上实现 6.52 FID 和 28.08 CLIP 分数（单步生成），训练时间约比 Sana-Sprint 减少 40%，显著节省大量 GPU 内存，却不牺牲质量。我们进一步揭示了连续时间一致性蒸馏中扩散生成空间的差异，并分析了抽样策略如何影响蒸馏性能，为未来蒸馏研究提供了见解。GitHub 链接: https://github.com/hustvl/TBCM。
引用
@article{arxiv.2511.20410,
title = {Image-Free Timestep Distillation via Continuous-Time Consistency with Trajectory-Sampled Pairs},
author = {Bao Tang and Shuai Zhang and Yueting Zhu and Jijun Xiang and Xin Yang and Li Yu and Wenyu Liu and Xinggang Wang},
journal= {arXiv preprint arXiv:2511.20410},
year = {2025}
}