成对判别器在对抗训练中的优势
机器学习
2020-02-21 v1 机器学习
摘要
对抗训练方法通常通过求解双人博弈来对齐分布。然而,在现有大多数形式化中,即使生成器与数据完美对齐,次优判别器仍可能将二者推离。若无额外正则化,这种不稳定性会表现为一场永无止境的博弈。本文通过利用成对判别器引入了一类目标函数,并表明仅需生成器收敛。若对齐达成,则任意判别器下该对齐都会被保持。我们给出了局部收敛的充分条件;刻画了应指导判别器与生成器选择的容量平衡;并构造了最小充分判别器的示例。在实验上,我们在合成示例上阐明了该理论及我们方法的有效性。此外,我们展示了源自我们方法的实用方法能更好地生成更高分辨率的图像。
引用
@article{arxiv.2002.08621,
title = {The Benefits of Pairwise Discriminators for Adversarial Training},
author = {Shangyuan Tong and Timur Garipov and Tommi Jaakkola},
journal= {arXiv preprint arXiv:2002.08621},
year = {2020}
}