通过最优分类器引导实现高效可控扩散
机器学习
2025-05-29 v1 人工智能
摘要
扩散模型的可控生成旨在引导模型生成优化某些给定目标函数的样本。这对于包括图像生成、分子生成和 DNA/序列生成在内的各种应用都是理想的。基于强化学习 (RL) 的基础模型微调是一种流行的方法，但它可能会对奖励函数过拟合，同时需要大量资源。我们将可控生成构建为寻找一个优化 KL 正则化目标函数的分布的问题。我们提出了 SLCD——基于监督学习的可控扩散，它迭代地生成在线数据并训练一个小型分类器来引导扩散模型的生成。与标准的分类器引导扩散类似，SLCD 的关键计算原语是分类，不涉及任何来自 RL 或控制的复杂概念。通过归约到无悔在线学习分析，我们证明了在 KL 散度下，SLCD 的输出可证明收敛于 KL 正则化目标的最优解。此外，我们通过实验证明，在连续扩散的图像生成和离散扩散的生物序列生成中，SLCD 都能生成高质量的样本，且推理时间与基础模型几乎相同。我们的代码可在 https://github.com/Owen-Oertell/slcd 获取
引用
@article{arxiv.2505.21666,
title = {Efficient Controllable Diffusion via Optimal Classifier Guidance},
author = {Owen Oertell and Shikun Sun and Yiding Chen and Jin Peng Zhou and Zhiyong Wang and Wen Sun},
journal= {arXiv preprint arXiv:2505.21666},
year = {2025}
}
备注
28 pages, 9 figures, 3 tables