无噪声分数蒸馏
计算机视觉与模式识别
2023-10-27 v1
摘要
分数蒸馏采样（SDS）已成为非图像领域文本到内容生成的事实标准方法。本文重新审视SDS过程，并给出一种直白的解释，基于对一个不期望噪声项的蒸馏，揭开了大尺度无分类器引导（CFG）必要性的神秘面纱。基于我们的解释，我们提出一种新颖的无噪声分数蒸馏（NFSD）过程，它只需对原始SDS框架做极小修改。通过这一精简设计，我们在使用名义CFG尺度的同时实现了对预训练文本到图像扩散模型更有效的蒸馏。这一策略选择使我们能防止结果的过度平滑，确保生成数据既真实又符合所需提示。为展示NFSD的效能，我们提供了比较NFSD与SDS以及其他几种方法的定性示例。
引用
@article{arxiv.2310.17590,
title = {Noise-Free Score Distillation},
author = {Oren Katzir and Or Patashnik and Daniel Cohen-Or and Dani Lischinski},
journal= {arXiv preprint arXiv:2310.17590},
year = {2023}
}
备注
Project page at https://orenkatzir.github.io/nfsd/