GAT-GMM：用于高斯混合模型的生成对抗训练
机器学习
2020-06-19 v1 机器学习
摘要
生成对抗网络（GAN）通过两个机器参与者（生成器和判别器）之间的零和博弈来学习观测样本的分布。尽管 GAN 在学习图像、声音和文本数据的复杂分布方面取得了巨大成功，但它们在学习包括高斯混合模型（GMM）在内的多模态分布学习基准时表现欠佳。在本文中，我们提出了用于高斯混合模型的生成对抗训练（GAT-GMM），这是一个用于学习 GMM 的极小极大 GAN 框架。受最优传输理论的启发，我们使用随机线性生成器和基于 softmax 的二次判别器架构设计了 GAT-GMM 中的零和博弈，这导出了一个非凸凹极小极大优化问题。我们证明梯度下降上升法（GDA）能够收敛到 GAT-GMM 优化问题的近似稳定极小极大点。在两个对称且充分分离的高斯混合物的基准情况下，我们进一步表明该稳定点能够恢复底层 GMM 的真实参数。我们通过进行多项实验在数值上支持了我们的理论发现，这些实验表明 GAT-GMM 在学习两个高斯混合物时能够表现得与期望最大化算法一样好。
引用
@article{arxiv.2006.10293,
title = {GAT-GMM: Generative Adversarial Training for Gaussian Mixture Models},
author = {Farzan Farnia and William Wang and Subhro Das and Ali Jadbabaie},
journal= {arXiv preprint arXiv:2006.10293},
year = {2020}
}