噪声条件变分得分蒸馏
计算机视觉与模式识别
2025-06-12 v1
摘要
我们提出噪声条件变分得分蒸馏（NCVSD），一种将预训练扩散模型蒸馏为生成式去噪器的新方法。我们通过揭示无条件得分函数隐式地刻画了去噪后验分布的得分函数来实现这一目标。将这一洞察融入变分得分蒸馏（VSD）框架中，我们使得可扩展学习生成式去噪器成为可能，这些去噪器能够在广泛的噪声水平下近似从去噪后验分布中采样。所提出的生成式去噪器具有理想特性，可在保留迭代精化优势的同时实现快速生成：（1）通过在高层噪声水平下从纯高斯噪声中采样实现快速单步生成；（2）通过多步采样扩展测试时计算来提升样本质量；（3）零样本概率推理以实现灵活可控的采样。我们通过广泛实验评估了NCVSD，包括类别条件图像生成和逆问题求解。通过扩展测试时计算，我们的方法超越了教师扩散模型，并与更大规模的一致性模型表现相当。此外，与基于扩散的方法相比，我们以显著更少的NFE在逆问题上取得了记录级别的LPIPS。
引用
@article{arxiv.2506.09416,
title = {Noise Conditional Variational Score Distillation},
author = {Xinyu Peng and Ziyang Zheng and Yaoming Wang and Han Li and Nuowen Kan and Wenrui Dai and Chenglin Li and Junni Zou and Hongkai Xiong},
journal= {arXiv preprint arXiv:2506.09416},
year = {2025}
}