勿偏袒多数：扩散模型的少数样本引导

我们探讨利用扩散模型生成少数样本的问题。少数样本是落在数据流形低密区域的实例。生成足够数量的此类少数样本十分重要，因为它们常包含数据的某些独特属性。然而，扩散模型的常规生成过程由于其高似然性大多产生多数样本（落在流形高密区域），使其对少数生成任务低效且耗时。本工作中，我们提出一种新颖框架，使扩散模型的生成过程聚焦于少数样本。我们首先指出 Tweedie 去噪公式对多数样本产生有利结果。该观察促使我们引入一个描述给定样本独特性的度量。为解决扩散模型对多数样本的内在偏好，我们进一步开发了少数引导——一种可将生成过程导向具有期望似然水平区域的采样技术。在基准真实数据集上的实验表明，我们的少数引导相较现有生成采样器能大幅提升生成高质量少数样本的能力。我们展示了即便在如医学成像等严苛真实场景中子我们的框架性能优势依然保持，进一步凸显了工作的实际意义。代码见 https://github.com/soobin-um/minority-guidance。