KGAN：如何打破 GAN 中的极小极大博弈

生成对抗网络（GANs）在博弈论的视角下得到了直观且吸引人的解释，其中涉及的两个参与方分别是判别器和生成器。在该博弈中，判别器的任务是区分真实数据与生成（即伪造）数据，而生成器的任务是生成最大程度混淆判别器的伪造数据。本文中，我们提出了一种称为最小化一般损失视角的新观点来看待 GANs。该视角展示了关于凸损失函数的分类问题的一般损失与真实和伪造数据分布之间的 f-散度之间的联系。在数学上，我们提出了真实与伪造数据分类问题的一种设定，其中可证明该分类问题的一般损失对于某个凸函数 f 恰好是负的 f-散度。这使得我们可以将学习生成器以消去真实与伪造数据分布之间 f-散度的问题，解释为最大化一般损失的问题，若分类问题中使用 Logistic 损失，则等价于 GAN 中的极小极大问题。然而，该视角从两方面增强了 GANs。首先，它允许我们对判别器采用任意凸损失函数。其次，它表明我们不必局限于基于神经网络的判别器，而可以改用其他强大的函数族。秉持该视角，我们进而提出使用基于核的函数族作为判别器。该函数族有两个吸引人的特征：i) 对非线性本质数据分类的强大能力，以及 ii) 在特征空间中为凸。利用该函数族的凸性，我们可以进一步借助 Fenchel 对偶将极大极小问题等价转化为极大极大对偶问题。