中文

噪声的几何:为何扩散模型不需要噪声条件

机器学习 2026-02-23 v1 计算机视觉与模式识别 图像与视频处理

摘要

自主 (噪声中性) 生成模型,如平衡匹配和盲扩散,挑战了标准范式,通过学习单一、时间不变的向量场而无需显式噪声水平条件。虽然最近的工作表明,高维浓度允许这些模型从受污染观察中隐式估计噪声水平,但仍存一个根本性悖论:当噪声水平被视为随机变量时,究竟优化了什么样的景观,而受限的、噪声中性网络如何在数据流形附近保持稳定(因为梯度通常会发散)?我们通过形式化边际能量 Emarg(u)=logp(u)E_{\text{marg}}(\mathbf{u}) = -\log p(\mathbf{u}),其中 p(u)=p(ut)p(t)dtp(\mathbf{u}) = \int p(\mathbf{u}|t)p(t)dt 是对未知噪声水平先验分布积分后的噪声数据边际密度,解决了这个悖论。我们证明,使用自主模型的生成不仅仅是盲去去噪,而是对该边际能量的特定形式的黎曼梯度流。通过一种新颖的相对能量分解,我们展示,尽管原始边际能量景观在数据流形法向上具有 1/tp1/t^p 的奇异性,但所学的时间不变场隐式地包含了局部共形度量,完美地抵消了几何奇异性,将无限深的势阱转换为稳定的吸引子。我们也建立了采样使用自主模型的结构稳定性条件。我们识别出噪声预测参数化中的一个“琼斯间隙”,其作为估计误差的高增益放大器,解释了确定性盲模型中灾难性失败的原因。相反,我们证明基于速度的参数化在本质上是稳定的,因为它们满足有界增益条件,可将后验不确定性吸收到平滑的几何漂移中。

关键词

引用

@article{arxiv.2602.18428,
  title  = {The Geometry of Noise: Why Diffusion Models Don't Need Noise Conditioning},
  author = {Mojtaba Sahraee-Ardakan and Mauricio Delbracio and Peyman Milanfar},
  journal= {arXiv preprint arXiv:2602.18428},
  year   = {2026}
}