幂等生成网络

我们提出了一种基于训练神经网络使其幂等的新生成建模方法。幂等算子是指可连续应用而不使结果超出初次应用后发生改变的算子，即 $f(f(z))=f(z)$。所提模型 $f$ 通过以下目标训练，将源分布（如高斯噪声）映射到目标分布（如真实图像）：(1) 来自目标分布的样本应映射到自身，即 $f(x)=x$。我们将目标流形定义为所有被 $f$ 映射到自身的样本集合。(2) 构成源分布的样本应映射到所定义的目标流形上。这通过优化幂等项 $f(f(z))=f(z)$ 实现，该项促使 $f(z)$ 的值域位于目标流形上。在理想假设下，该过程可证明收敛至目标分布。该策略得到的模型能够单步生成输出，保持一致的潜空间，同时允许顺序应用以进行细化。此外，我们发现通过处理来自目标分布与源分布的输入，模型能将损坏或修改的数据巧妙地投影回目标流形。本工作是迈向“全局投影器”的第一步，该投影器可将任意输入投影至目标数据分布。