鲁棒变分自编码器
机器学习
2019-12-24 v2 机器学习
图像与视频处理
摘要
机器学习方法通常需要大量带标签的训练数据。由于训练数据被假定为真实值，离群点会严重降低所学表征和训练模型的性能。在此，我们应用鲁棒统计中的概念推导出一种对训练数据中离群点鲁棒的新的变分自编码器。变分自编码器（VAE）提取低维编码特征表示，由此可生成新的数据样本。当使用受损训练数据时，自编码器对离群点的鲁棒性对于在编码空间中生成特定数据类型的可靠表示至关重要。我们的鲁棒 VAE 基于 beta 散度而非标准 Kullback-Leibler（KL）散度。我们提出的下界导出了一个 RVAE 模型，其计算复杂度与 VAE 相同，并含有一个控制鲁棒程度的单一调谐参数。我们展示了对一系列图像数据集的基于 散度的自编码器的性能，在定性和定量上均显示出对离群点改进的鲁棒性。我们还说明了我们的鲁棒 VAE 用于离群点检测。
引用
@article{arxiv.1905.09961,
title = {Robust Variational Autoencoder},
author = {Haleh Akrami and Anand A. Joshi and Jian Li and Sergul Aydore and Richard M. Leahy},
journal= {arXiv preprint arXiv:1905.09961},
year = {2019}
}