通过二值化表示熵（BRE）正则化改进GAN训练
机器学习
2018-05-11 v1 机器学习
摘要
我们提出一种新颖的正则化器以改进生成对抗网络（GANs）的训练。其动机在于，当判别器D以恰当方式分散其模型容量时，给予生成器G的学习信号更具信息性与多样性。这反过来帮助G更好地探索并发现真实数据流形，同时避免因D的错误外推而导致的大幅不稳定跳跃。我们的正则化器通过鼓励D的选定内部层上的二值激活模式具有高联合熵，来引导修正线性判别器D更好地分配其模型容量。在合成数据与真实数据集上的实验结果表明，GAN训练的稳定性与收敛速度得到改善，且样本质量更高。该方法在半监督学习中还带来了更高的分类准确率。
引用
@article{arxiv.1805.03644,
title = {Improving GAN Training via Binarized Representation Entropy (BRE) Regularization},
author = {Yanshuai Cao and Gavin Weiguang Ding and Kry Yik-Chau Lui and Ruitong Huang},
journal= {arXiv preprint arXiv:1805.03644},
year = {2018}
}
备注
Published as a conference paper at the 6th International Conference on Learning Representations (ICLR 2018)