Training-Free Guidance Beyond Differentiability: Scalable Path Steering with Tree Search in Diffusion and Flow Models
机器学习
2025-06-12 v3
摘要
Training-free guidance 使扩散模型和流模型能够实现受控生成,但大多数方法依赖梯度并假设目标可微。这一工作聚焦于训练自由指导,旨在解决非可微目标和离散数据分布带来的挑战。我们提出了 TreeG:基于树搜索的路径引导方法,适用于扩散模型和流模型中的连续和离散场景。TreeG 通过在每个步骤提出、评估和选择候选方案,辅以对活跃路径的树形搜索和并行探索,提供了一个统一的训练-free 指导框架。我们全面调查了 TreeG 在候选方案提议模块和评估函数上的设计空间,并实现了三个新颖的算法。实验表明,TreeG 在符号音乐生成、小分子设计和增强 DNA 设计等任务中持续超越顶尖指导基线,分别实现了 29.01%、16.6% 和 18.43% 的提升。此外,我们识别出一种推理时间尺度规律,表明 TreeG 在推理计算规模方面具有良好的可扩展性。
关键词
引用
@article{arxiv.2502.11420,
title = {Training-Free Guidance Beyond Differentiability: Scalable Path Steering with Tree Search in Diffusion and Flow Models},
author = {Yingqing Guo and Yukang Yang and Hui Yuan and Mengdi Wang},
journal= {arXiv preprint arXiv:2502.11420},
year = {2025}
}