对决解码器：正则化变分自编码器潜空间
机器学习
2019-05-21 v1 机器学习
摘要
变分自编码器学习无监督数据表示，但这些模型经常收敛到无法保留有意义语义信息的最小值。例如，带有自回归解码器的变分自编码器常坍缩为自解码器，学会忽略编码器输入。在本工作中，我们证明添加一个辅助解码器来正则化潜空间可防止此种坍缩，但成功的辅助解码任务依赖于领域。辅助解码器能够增加编码于潜空间并在重建中可见的语义信息量。变分自编码器表示中的语义信息仅与其率、失真或证据下界弱相关。相较于其他修改训练目标的热门策略，我们对潜空间的正则化普遍提升了语义信息内容。
引用
@article{arxiv.1905.07478,
title = {Dueling Decoders: Regularizing Variational Autoencoder Latent Spaces},
author = {Bryan Seybold and Emily Fertig and Alex Alemi and Ian Fischer},
journal= {arXiv preprint arXiv:1905.07478},
year = {2019}
}
备注
16 pages, 9 figures, supplemental