能量模型中的隐式生成与泛化
机器学习
2020-07-01 v6 计算机视觉与模式识别
机器学习
摘要
能量模型(EBM)因其在似然建模中的通用性和简洁性而颇具吸引力,但传统上难以训练。我们提出了在连续神经网络上扩展基于 MCMC 的 EBM 训练的技术,并展示了其在 ImageNet32x32、ImageNet128x128、CIFAR-10 和机械手轨迹等高维数据域上的成功,获得了优于其他似然模型的样本,并接近当代 GAN 方法的性能,同时覆盖了数据的所有模式。我们强调了隐式生成的一些独特能力,如组合性和损坏图像重建与修复。最后,我们表明 EBM 在广泛任务中都是有用的模型,实现了最先进的分布外分类、对抗鲁棒分类、最先进的持续在线类别学习以及连贯的长期预测轨迹展开。
引用
@article{arxiv.1903.08689,
title = {Implicit Generation and Generalization in Energy-Based Models},
author = {Yilun Du and Igor Mordatch},
journal= {arXiv preprint arXiv:1903.08689},
year = {2020}
}