对抗式分数匹配与改进的图像生成采样
机器学习
2020-10-13 v2 计算机视觉与模式识别
机器学习
摘要
带退火朗之万采样的去噪分数匹配（DSM-ALS）近期在生成建模中取得了成功。该方法首先训练神经网络估计分布的分数，随后利用朗之万动力学从分数网络所假设的数据分布中采样。尽管样本具有令人信服的视觉质量，但在生成模型的标准指标 Fréchet Inception Distance 下，该方法表现似乎劣于生成对抗网络（GAN）。我们表明，在使用分数网络对最终朗之万样本去噪后，这一表面差距消失。此外，我们提出对 DSM-ALS 的两项改进：1）一致退火采样，作为退火朗之万采样更稳定的替代方案；2）混合训练形式，由去噪分数匹配与对抗目标共同构成。通过结合这两种技术并探索不同网络架构，我们提升了分数匹配方法，并在 CIFAR-10 上获得了与最先进图像生成相竞争的结果。
引用
@article{arxiv.2009.05475,
title = {Adversarial score matching and improved sampling for image generation},
author = {Alexia Jolicoeur-Martineau and Rémi Piché-Taillefer and Rémi Tachet des Combes and Ioannis Mitliagkas},
journal= {arXiv preprint arXiv:2009.05475},
year = {2020}
}
备注
Code at https://github.com/AlexiaJM/AdversarialConsistentScoreMatching