基于 PID 控制的 Langevin 动力学加速生成模型采样
机器学习
2025-11-18 v1 人工智能
系统与控制
系统与控制
摘要
Langevin 动力学采样存在极低的生成速度,受限于大量细粒度迭代才能收敛到目标分布。我们引入 PID 控制 Langevin 动力学 (PIDLD),一种新的采样加速算法,通过控制理论原理重新诠释采样过程。将能量梯度视为反馈信号,PIDLD 结合历史梯度(积分项)和梯度趋势(微分项),高效遍历能量景观并自适应稳定,从而显著减少产生高质量样本所需的迭代次数。我们的 метод无需额外训练、数据集或先验信息,即可立即集成到任何基于 Langevin 的方法中。广泛的实验在图像生成和推理任务上表明,PIDLD 在更少的步骤中实现更高的质量,使基于 Langevin 的生成模型在效率关键型应用中更加实用。实现代码可在 \href{https://github.com/tsinghua-fib-lab/PIDLD}{https://github.com/tsinghua-fib-lab/PIDLD} 查看。
关键词
引用
@article{arxiv.2511.12603,
title = {PID-controlled Langevin Dynamics for Faster Sampling of Generative Models},
author = {Hongyi Chen and Jianhai Shu and Jingtao Ding and Yong Li and Xiao-Ping Zhang},
journal= {arXiv preprint arXiv:2511.12603},
year = {2025}
}
备注
NeurIPS 2025 poster paper