引导机制有何作用？简单设定下的细粒度分析
机器学习
2024-09-23 v1 计算机视觉与模式识别
机器学习
摘要
在扩散模型中使用引导机制最初是基于这样一个前提，即引导修改后的分数是数据分布被提升至某次幂的条件似然所倾斜后的分数。在本工作中，我们通过严格证明引导机制无法从预期的倾斜分布中采样，澄清了这一误解。我们的主要结果是在两种情况下给出了引导机制动力学的细粒度刻画：(1) 紧支撑分布的混合与 (2) 高斯分布的混合，这两种情况反映了引导机制在真实世界数据上表现出的显著特性。在两种情况下，我们证明了随着引导参数的增加，引导后的模型会更多地从条件分布支撑的边界进行采样。我们还证明了，对于任何非零水平的分数估计误差，足够大的引导将导致在支撑之外进行采样，这从理论上证明了大引导会导致生成失真这一经验发现。除了在合成设定中经验性地验证这些结果外，我们还展示了我们的理论见解如何为实际部署提供有用的指导。
引用
@article{arxiv.2409.13074,
title = {What does guidance do? A fine-grained analysis in a simple setting},
author = {Muthu Chidambaram and Khashayar Gatmiry and Sitan Chen and Holden Lee and Jianfeng Lu},
journal= {arXiv preprint arXiv:2409.13074},
year = {2024}
}