通过 $\alpha$-散度桥接最大似然与对抗学习
机器学习
2020-07-14 v1 计算机视觉与模式识别
机器学习
摘要
最大似然(ML)和对抗学习是训练生成模型的两种流行方法,并且从许多角度看这些技术是互补的。ML 学习鼓励捕获所有数据模态,并且通常以训练稳定为特征。然而,ML 学习倾向于将数据空间上的概率质量弥散分布,例如产生模糊的合成图像。对抗学习以合成高度逼真的自然图像而闻名,尽管存在模态丢失和精细训练等实际挑战。我们提出一种 -Bridge 来统一 ML 和对抗学习的优势,通过 -散度实现从一种到另一种的平滑迁移。我们揭示,-Bridge 的推广与近期为规范对抗学习而开发的方法密切相关,从而为该先前工作提供见解,并进一步理解为何 -Bridge 在实践中表现良好。
引用
@article{arxiv.2007.06178,
title = {Bridging Maximum Likelihood and Adversarial Learning via $\alpha$-Divergence},
author = {Miaoyun Zhao and Yulai Cong and Shuyang Dai and Lawrence Carin},
journal= {arXiv preprint arXiv:2007.06178},
year = {2020}
}
备注
AAAI 2020