基于熵校正的扩散与流模型引导方法
计算复杂性
2025-05-19 v2 人工智能
摘要
引导技术常用于扩散和流模型，以提高条件生成任务（如类别条件和文本到图像生成）中图像质量和输入一致性。特别是，分类器自由引导（CFG）是最广泛采用的引导技术。但它会在质量、多样性和一致性之间产生权衡：在某些方面提高，代价是其他方面下降。虽然最近的工作表明可以在一定程度上解耦这些因素，但此类方法需要额外的（较弱的）模型，或需要每个采样步骤更多的前向传递。本文提出熵校正引导（ERG），一种基于基于最先进扩散转换器架构注意力机制推理时变化的简单且有效的引导方法，能够同时提高图像质量、多样性和提示一致性。ERG 高于 CFG 和类似引导技术，适用于无条件采样。我们展示了 ERG 在各种任务中均实现了显著改进，包括文本到图像、类别条件和无条件图像生成。我们还表明 ERG 可以无缝地与其他近期引导方法（如 CADS 和 APG）结合，以进一步提高生成结果。
引用
@article{arxiv.2504.13986,
title = {Forgetting in short and heterogeneous sequences of belief revisions},
author = {Paolo Liberatore},
journal= {arXiv preprint arXiv:2504.13986},
year = {2025}
}
备注
arXiv admin note: substantial text overlap with arXiv:2402.15445, arXiv:2305.09200