具有稳定性保证的核引导隐式生成模型训练
机器学习
2019-11-07 v2 机器学习
摘要
现代隐式生成模型如生成对抗网络(GANs)通常存在不稳定、不可解释以及难以评估性能等问题。若将这些隐式模型视为动力系统,其中部分问题源于无法在训练过程中以有意义的方式控制其行为。本工作中,我们提出一种理论可靠的方法,通过用基于核的正则化项增强GAN损失函数来引导GAN的训练轨迹,该正则化项控制模型分布与真实分布之间的局部和全局差异。这一控制信号使我们能够将先验知识注入模型。我们给出了所得动力系统稳定性的理论保证,并通过广泛的实验展示了其不同方面。
引用
@article{arxiv.1901.09206,
title = {Kernel-Guided Training of Implicit Generative Models with Stability Guarantees},
author = {Arash Mehrjou and Wittawat Jitkrittum and Krikamol Muandet and Bernhard Schölkopf},
journal= {arXiv preprint arXiv:1901.09206},
year = {2019}
}
备注
This article supersedes arXiv:1901.09206 version 1. The paper is restructured, its writing is improved, and new experiments are added. The main result on stability is unchanged