受限 f-GAN 的归纳偏置
机器学习
2018-09-13 v1 机器学习
摘要
生成对抗网络是一种新颖的统计推断方法,已取得诸多经验性成功;然而,促成该成功的因素仍知之甚少。在这项工作中,我们试图分析生成对抗学习——即由生成器与判别器之间博弈产生的统计推断——以理解其与最大似然推断和矩估计等经典统计推断解的差异。具体而言,我们对一种称为受限 f-GAN 的简单生成对抗学习形式所推断的分布给出理论刻画——其中判别器为给定函数类中的函数,生成器诱导的分布被限制于预指定分布类,且目标类似于 f-散度的变分形式。我们结果的一个推论是:对于线性 KL-GAN——即判别器为某特征空间上的线性函数且 f 对应于 KL 散度时——最优生成器诱导的分布既非最大似然解也非矩估计解,而是两者有趣的组合。
引用
@article{arxiv.1809.04542,
title = {The Inductive Bias of Restricted f-GANs},
author = {Shuang Liu and Kamalika Chaudhuri},
journal= {arXiv preprint arXiv:1809.04542},
year = {2018}
}