Sobolev GAN
机器学习
2017-11-15 v1 机器学习
摘要
我们提出一种分布间新的积分概率度量(IPM):Sobolev IPM。Sobolev IPM 比较两种分布关于受限在相对于主导测度 定义的 Sobolev 球上的函数(判别器)的均值差异。我们证明 Sobolev IPM 基于每次留一的坐标上的加权条件累积分布函数(CDF)在高维下比较两个分布。主导测度 起着关键作用,因为它定义了比较条件 CDF 的支撑。Sobolev IPM 可视为一维 Von-Mises Cramér 统计量到高维分布的推广。我们展示了 Sobolev IPM 如何用于训练生成对抗网络(GANs)。随后我们利用 Sobolev IPM 隐含的内在条件化于文本生成中。最后我们展示 Sobolev GAN 的一个变体在 CIFAR-10 的半监督学习中取得有竞争力的结果,这得益于 Sobolev GAN 对判别器施加的平滑性,其与拉普拉斯正则化相关。
引用
@article{arxiv.1711.04894,
title = {Sobolev GAN},
author = {Youssef Mroueh and Chun-Liang Li and Tom Sercu and Anant Raj and Yu Cheng},
journal= {arXiv preprint arXiv:1711.04894},
year = {2017}
}