中文

通过 $\alpha$-散度桥接最大似然与对抗学习

机器学习 2020-07-14 v1 计算机视觉与模式识别 机器学习

摘要

最大似然(ML)和对抗学习是训练生成模型的两种流行方法,并且从许多角度看这些技术是互补的。ML 学习鼓励捕获所有数据模态,并且通常以训练稳定为特征。然而,ML 学习倾向于将数据空间上的概率质量弥散分布,例如产生模糊的合成图像。对抗学习以合成高度逼真的自然图像而闻名,尽管存在模态丢失和精细训练等实际挑战。我们提出一种 α\alpha-Bridge 来统一 ML 和对抗学习的优势,通过 α\alpha-散度实现从一种到另一种的平滑迁移。我们揭示,α\alpha-Bridge 的推广与近期为规范对抗学习而开发的方法密切相关,从而为该先前工作提供见解,并进一步理解为何 α\alpha-Bridge 在实践中表现良好。

关键词

引用

@article{arxiv.2007.06178,
  title  = {Bridging Maximum Likelihood and Adversarial Learning via $\alpha$-Divergence},
  author = {Miaoyun Zhao and Yulai Cong and Shuyang Dai and Lawrence Carin},
  journal= {arXiv preprint arXiv:2007.06178},
  year   = {2020}
}

备注

AAAI 2020