Bezier Distillation（Bezier 蒸馏）
机器学习
2025-03-24 v1
摘要
在修正流（Rectified Flow）中，通过多次获取修正流，分布之间的映射关系可以被蒸馏为神经网络，目标的分布可以通过流的直线直接预测。然而，在映射关系的配对过程中，会产生大量误差累积，导致多次修正后性能下降。在流模型领域，多教师扩散模型的知识蒸馏也是加速采样中值得探讨的问题。本研究打算将多教师知识蒸馏与贝塞尔曲线相结合，以解决误差累积问题。目前，相关论文正在由本人撰写中。
引用
@article{arxiv.2503.16562,
title = {Bezier Distillation},
author = {Ling Feng and SK Yang},
journal= {arXiv preprint arXiv:2503.16562},
year = {2025}
}