线性去噪器在比例规模下的精确性能分析

本文研究了针对形式为 $\mathbf{x} + \mathbf{z}$ 的噪声数据的线性去噪器性能，其中 $\mathbf{x} \in \mathbb{R}^d$ 为均值为零且协方差未知的目标数据，$\mathbf{z} \sim \mathcal{N}(0, \mathbf{\Sigma}_{\mathbf{z}})$ 为增性噪声。由于协方差 $\mathbf{\Sigma}$ 未知，无法采用标准 Wiener 滤波器进行去噪。因此我们假设给定来自真实分布的样本 $\mathbf{x}_1,\dots,\mathbf{x}_n \in \mathbb{R}^d$。常规做法是从样本估计 $\mathbf{\Sigma}$ 再构建“经验”Wiener 滤波器。然而本文受扩散模型去噪步骤的启发，采用不同方法：从数据本身训练线性去噪器 $\mathbf{W}$。具体做法是合成噪声样本 $\hat{\mathbf{x}}_i$（通过注入协方差为 $\mathbf{\Sigma}_1 \neq \mathbf{\Sigma}_{\mathbf{z}}$ 的高斯噪声），寻找使 $\mathbf{W}\hat{\mathbf{x}}_i \approx \mathbf{x}_i$ 在最小二乘意义上最优的 $\mathbf{W}$。在比例规模 $\frac{n}{d} \rightarrow \kappa > 1$ 下，我们运用凸高斯极大定理 (CGMT) 解析求得该去噪器的泛化误差闭式表达式。据此可对 $\mathbf{\Sigma}_1$ 进行优化，寻找最优去噪器。数值仿真表明，本文去噪器在多数情形下均优于“经验”Wiener 滤波器，且随 $\kappa \rightarrow \infty$ 趋近于最优 Wiener 滤波器。