基于最优传输结构化正则化的信息性 GAN
机器学习
2019-12-05 v1 机器学习
摘要
我们从正则化最优传输（OT）的视角解决生成对抗网络（GANs）中解耦表示学习的难题。具体而言，平滑的 OT 损失在隐空间与数据空间之间隐式地产生一个传输计划。基于这一理论观察，我们对传输计划施加结构化正则化，以促使指定的隐子空间具有信息性。这导出了一种新颖的基于 OT 的信息性 GAN 的构建。通过凸对偶，我们得到等价的视角：这导致扰动后的地面代价倾向于在信息性隐维度上呈现稀疏性。在实践中，我们为所提出的信息性 GAN 设计了一种稳定的训练算法。我们的实验支持如下假设：此类正则化有效地促成了对解耦且可解释隐表示的发现。我们的工作展示了正则化 OT 框架在生成建模中通过其对接传输计划而具备的潜在威力。该方向上的进一步挑战亦被论及。
引用
@article{arxiv.1912.02160,
title = {Informative GANs via Structured Regularization of Optimal Transport},
author = {Pierre Bréchet and Tao Wu and Thomas Möllenhoff and Daniel Cremers},
journal= {arXiv preprint arXiv:1912.02160},
year = {2019}
}
备注
Presented at the Optimal Transport and Machine Learning Workshop, NeurIPS 2019