基于对抗距离对偶的稳定分布对齐
机器学习
2018-02-01 v4 人工智能
计算机视觉与模式识别
摘要
通过最小化分布之间的对抗距离来对齐分布的方法近来取得了令人印象深刻的成果。然而，这些方法难以用梯度下降优化，且若无细致的超参数调优和恰当初始化，往往不能很好收敛。我们研究将通过用其对偶替换最大化部分，从而将对抗极小极大问题转化为优化问题，是否能改善所得对齐的质量，并探索其与最大均值差异（Maximum Mean Discrepancy）的联系。我们的经验结果表明，与在相同限制下原始极小极大类GAN目标以及MMD目标的性能相比，对受限的线性判别器族使用对偶公式可实现更稳定地收敛到理想解。我们在平面上对齐两个合成点云的问题以及数字的真实图像域适应问题上检验了我们的假设。在这两种情况下，对偶公式产生了一种迭代过程，随时间给出更稳定且单调的改进。
引用
@article{arxiv.1707.04046,
title = {Stable Distribution Alignment Using the Dual of the Adversarial Distance},
author = {Ben Usman and Kate Saenko and Brian Kulis},
journal= {arXiv preprint arXiv:1707.04046},
year = {2018}
}
备注
ICLR 2018 Conference Invite to Workshop