Saddle-Free Guidance：无需标签或额外训练的改进型在流形采样方法
计算机视觉与模式识别
2025-12-01 v1 机器学习
机器学习
摘要
基于评分的生成模型需要 guidance 才能生成可信的、在流形上的样本。最流行的 guidance 方法——无分类器指导（Classifier-Free Guidance, CFG）仅适用于有标签数据，并需要训练额外的无条件评分模型。更近期地，Auto-Guidance 采用较小且能力较弱的原始模型版本来指导生成。虽然每种方法都有效地促进了生成数据的保真度，但每种方法都需要有标签数据或训练额外的模型，使得在（有标签）训练数据不可得或无法训练新模型时对评分模型进行 guidance 变得具有挑战性。我们意想不到地发现，日志密度估计在鞍点区域的正曲率提供了强大的 guidance。据此启发，我们开发了 saddle-free guidance（SFG），其维护日志密度最大正曲率的估计，以指导单个评分模型。SFG 的计算成本与无分类器指导相同，不需要额外训练，可与即插即用扩散模型和流匹配模型配合使用。我们的实验表明，SFG 在单模型无条件 ImageNet-512 生成中实现了最先进的 FID 和 FD-DINOv2 指标。当 SFG 与 Auto-Guidance 组合使用时，其无条件样本在 FD-DINOv2 分数上实现了通用最先进水平。我们在 FLUX.1-dev 和 Stable Diffusion v3.5 上的实验表明，SFG 在保持出色提示遵循和图像保真度的同时，显著提升了输出图像的多样性。
引用
@article{arxiv.2511.21863,
title = {Saddle-Free Guidance: Improved On-Manifold Sampling without Labels or Additional Training},
author = {Eric Yeats and Darryl Hannan and Wilson Fearn and Timothy Doster and Henry Kvinge and Scott Mahan},
journal= {arXiv preprint arXiv:2511.21863},
year = {2025}
}