通过对抗正则化器理解与改进自编码器中的插值
机器学习
2018-07-25 v2 机器学习
摘要
自编码器提供了一个强大的框架,通过在潜码中编码重建数据点所需的所有信息来学习压缩表示。在某些情况下,自编码器能够“插值”:通过对两个数据点的潜码凸组合进行解码,自编码器可以产生在语义上混合了这些数据点特征的输出。在本文中,我们提出了一种正则化过程,它通过欺骗一个被训练来从插值数据中恢复混合系数的判别网络,使插值输出显得更真实。随后我们开发了一个简单的基准任务,在其中可以定量衡量各种自编码器插值的能力,并表明我们的正则化器在该设定下显著改善了插值。我们还通过经验证明,我们的正则化器产生的潜码在下游任务中更为有效,这暗示了插值能力与学习有用表示之间可能存在联系。
引用
@article{arxiv.1807.07543,
title = {Understanding and Improving Interpolation in Autoencoders via an Adversarial Regularizer},
author = {David Berthelot and Colin Raffel and Aurko Roy and Ian Goodfellow},
journal= {arXiv preprint arXiv:1807.07543},
year = {2018}
}