面向鲁棒半监督学习的对抗变分嵌入
机器学习
2019-05-09 v2 机器学习
摘要
半监督学习旨在利用未标记数据，当标记数据难以或昂贵获取时尤为关键。深度生成模型（如变分自编码器（VAE））与半监督生成对抗网络（GAN）近期在半监督分类中因优异的判别表示能力而展现出良好性能。然而，传统 VAE 学习到的潜码对特定输入样本并非独占（可重复）的，这阻碍了其分类性能。特别地，学习到的潜表示依赖于从先验分布随机采样的非独占分量。此外，半监督 GAN 模型从预定义分布（如高斯噪声）生成数据，该分布独立于输入数据分布，可能阻碍收敛且难以控制生成数据的分布。为解决上述问题，我们提出一种新颖的对抗变分嵌入（AVAE）框架，用于鲁棒且有效的半监督学习，以结合 GAN 作为高质量生成模型与 VAE 作为后验分布学习器的优势。该方法首先由我们称为 VAE++ 的模型产生独占潜码，同时为 GAN 的生成器提供有意义的先验分布。所提方法在四个不同真实世界应用上评估，结果表明我们的方法优于当前最优模型，证实了 VAE++ 与 GAN 的结合能在半监督分类中带来显著改进。
引用
@article{arxiv.1905.02361,
title = {Adversarial Variational Embedding for Robust Semi-supervised Learning},
author = {Xiang Zhang and Lina Yao and Feng Yuan},
journal= {arXiv preprint arXiv:1905.02361},
year = {2019}
}
备注
9 pages, Accepted by Research Track in KDD 2019