分布收缩 I：超越 Tweedie 公式的通用去噪器

我们研究在仅已知噪声水平而未知噪声分布时的去噪问题。独立噪声 $Z$ 破坏信号 $X$，产生观测值 $Y = X + \sigma Z$，其中 $\sigma \in (0,1)$ 已知。我们提出了对信号和噪声分布均不可知的通用去噪器，能够从 $P_Y$ 恢复信号分布 $P_X$。当关注点在于 $P_X$ 的分布恢复而非 $X$ 的个体实现时，我们的去噪器相较于由 Tweedie 公式导出的贝叶斯最优去噪器（其精度为 $O(\sigma^2)$）实现了数量级的提升。它们在匹配广义矩和密度方面以 $O(\sigma^4)$ 和 $O(\sigma^6)$ 的精度将 $P_Y$ 收缩向 $P_X$。借鉴最优传输理论，我们的去噪器以更高阶的精度逼近 Monge--Amp\`ere 方程，并可通过 score matching 高效实现。设 $q$ 表示 $P_Y$ 的密度。对于分布去噪，我们提出将贝叶斯最优去噪器 $$\mathbf{T}^*(y) = y + \sigma^2 \nabla \log q(y),$$ 替换为表现出更温和分布收缩的去噪器：$$\mathbf{T}_1(y) = y + \frac{\sigma^2}{2} \nabla \log q(y),$$ $$\mathbf{T}_2(y) = y + \frac{\sigma^2}{2} \nabla \log q(y) - \frac{\sigma^4}{8} \nabla \!\left( \frac{1}{2} \| \nabla \log q(y) \|^2 + \nabla \cdot \nabla \log q(y) \right)\!.$$