对抗式分数蒸馏：当分数蒸馏遇见GAN
计算机视觉与模式识别
2024-09-11 v2
摘要
现有的分数蒸馏方法对无分类器引导(CFG)尺度敏感：表现为在小CFG尺度下过度平滑或不稳定，而在大CFG尺度下过度饱和。为解释和分析这些问题，我们重访分数蒸馏采样(SDS)的推导，并用Wasserstein生成对抗网络(WGAN)范式解读现有分数蒸馏。借助WGAN范式，我们发现现有分数蒸馏要么采用固定的次优判别器，要么进行不完整的判别器优化，从而导致尺度敏感问题。我们提出对抗式分数蒸馏(ASD)，其维持一个可优化的判别器并使用完整的优化目标来更新它。实验表明，所提出的ASD在2D蒸馏和文本到3D任务上相对于现有方法表现更优。此外，为探索我们WGAN范式的泛化能力，我们将ASD扩展到图像编辑任务，取得了有竞争力的结果。项目页面与代码见 https://github.com/2y7c3/ASD。
引用
@article{arxiv.2312.00739,
title = {Adversarial Score Distillation: When score distillation meets GAN},
author = {Min Wei and Jingkai Zhou and Junyao Sun and Xuesong Zhang},
journal= {arXiv preprint arXiv:2312.00739},
year = {2024}
}
备注
CVPR 2024