中文

RNE:扩散模型推断时控制与能量基训练的即插即用框架

机器学习 2026-05-11 v6 机器学习

摘要

扩散模型通过逐步去除噪声来生成数据,这对应于无噪声过程的时间反演。然而,仅获得去噪核往往不足以满足需求。在许多应用中,我们需要沿生成轨迹获取边际密度,这使得诸如推断时控制等任务成为可能。为此,本文引入Radon-Nikodym估计器(RNE)。基于路径分布之间的"密度比"概念,RNE揭示了边际密度与转移核之间的根本联系,提供了一个即插即用的框架,统一了(1)扩散密度估计、(2)推断时控制、(3)能量基扩散训练。实验表明,RNE在推断时控制任务中表现卓越,如退火和模型组合,具有有前景的推断时扩展性能,并为训练能量基扩散模型提供简单而高效的正则化。此外,我们提出的RNE具有模态无关性,不仅适用于连续扩散模型,也适用于其离散扩散对手。

关键词

引用

@article{arxiv.2506.05668,
  title  = {RNE: plug-and-play diffusion inference-time control and energy-based training},
  author = {Jiajun He and José Miguel Hernández-Lobato and Yuanqi Du and Francisco Vargas},
  journal= {arXiv preprint arXiv:2506.05668},
  year   = {2026}
}

备注

Accepted at ICLR 2026