用于生成建模的通用平滑得分函数

我们考虑基于 Saremi 与 Srivastava (2022) 提出的、使用具有 $M$ 个等噪声水平独立高斯信道的因子核来平滑 $\mathbb{R}^d$ 中未知目标密度的生成建模问题。首先，我们通过对由此得到的 $\mathbb{R}^{Md}$ 中平滑密度（称为 M-密度）的参数化推导出一种通用形式，其中得分函数按构造具有置换等变性，从而完整刻画了其学习的时间复杂度。接着，我们通过分析高斯分布的条件数来研究 M-密度采样的时间复杂度。该谱分析给出了随着 $M$ 增大 M-密度“形状”的几何直观。最后，我们在 CIFAR-10 数据集上给出了该类生成模型的样本质量结果，报告了 Fréchet 起始距离(14.15)，值得注意的是这是在长时快速混合 MCMC 链上以单一噪声水平获得的。