缓慢退火 Langevin 动力学：理论及其在无训练引导生成中的应用
机器学习
2026-05-11 v1
摘要
我们研究了缓慢退火 Langevin 动力学 (SALD)，这是一种用于跟踪移动目标分布路径并通过时间减缓近似终端目标的采样方法。我们通过 KL 微分不等式建立了非渐近收敛保证，表明减缓通过收缩中间目标和路径复杂度来改善跟踪效果。针对使用预训练得分基生成模型的无训练引导生成，进一步引入速度感知 SALD (VA-SALD)，该方法显式地融合预训练模型的底层分布，并利用减缓纠正由引导引入的额外偏差。这一工作提出了一个原则性的、无需训练的引导生成框架，适用于基于扩散的及相关生成模型族，同时澄清了中间函数不等式和引导偏差的作用。代码已公开于 https://github.com/anitan0925/sald。
关键词
引用
@article{arxiv.2605.07950,
title = {Slowly Annealed Langevin Dynamics: Theory and Applications to Training-Free Guided Generation},
author = {Atsushi Nitanda and Dake Bu and Yueming Lyu and Tanya Veeravalli},
journal= {arXiv preprint arXiv:2605.07950},
year = {2026}
}