基于IPM的GAN半监督学习:一项实证研究
机器学习
2017-12-08 v1
摘要
我们对近期一类使用积分概率度量(Integral Probability Metrics, IPM)的生成对抗网络(GAN)及其在半监督学习中的表现进行了实证研究。基于IPM的GAN,如Wasserstein GAN、Fisher GAN和Sobolev GAN,在理论理解、训练稳定性以及有意义的损失函数方面具有理想性质。在本工作中,我们研究了判别器(或批评器)的设计如何影响半监督学习中的性能。我们提炼出对良好SSL性能重要的三个关键要点:(1) K+1公式,(2) 在批评器中避免使用批归一化,以及(3) 避免在分类层上施加梯度惩罚约束。
引用
@article{arxiv.1712.02505,
title = {Semi-Supervised Learning with IPM-based GANs: an Empirical Study},
author = {Tom Sercu and Youssef Mroueh},
journal= {arXiv preprint arXiv:1712.02505},
year = {2017}
}
备注
Appeared at NIPS 2017 Workshop: Deep Learning: Bridging Theory and Practice