镶嵌 Wasserstein 自编码器

变分自编码器（VAE）、基于最大均值差异的 Wasserstein 自编码器（WAE-MMD）、切片 Wasserstein 自编码器（SWAE）等非对抗生成模型相对于基于生成对抗网络的 Wasserstein 自编码器（WAE-GAN）较易训练且模式崩溃较少。然而，它们在潜空间中逼近目标分布时不够精确，因为缺少判别器来检测真实与生成样本间的细微差异。为此，我们提出一种称为镶嵌 Wasserstein 自编码器（TWAE）的新型非对抗框架，利用质心 Voronoi 镶嵌（CVT）技术将目标分布的支持集划分为给定数量的区域，并依据该镶嵌设计数据批次而非随机打乱，以精确计算差异。理论上，我们证明当样本数 $n$ 与镶嵌区域数 $m$ 增大时，差异估计的误差分别以 $\mathcal{O}(\frac{1}{\sqrt{n}})$ 和 $\mathcal{O}(\frac{1}{\sqrt{m}})$ 的速率下降。在给定固定 $n$ 和 $m$ 时，使测量误差上界最小化的一个必要条件是该镶嵌为由 CVT 所确定的镶嵌。TWAE 对不同的非对抗度量非常灵活，并且相较于 VAE、WAE-MMD、SWAE 能在 Fr\'{e}chet 初始距离（FID）方面显著提升其生成性能。此外，数值结果确实表明 TWAE 可与对抗模型 WAE-GAN 相竞争，展现出其强大的生成能力。