鲁棒向量量化变分自编码器
机器学习
2022-09-21 v2 人工智能
摘要
图像生成模型能够学习训练数据的分布，并进而通过从这些分布中采样来生成样本。然而，当训练数据集受到离群点污染时，生成模型很可能也会生成与离群点相似的样本。事实上，一小部分离群点就可能诱导最先进的生成模型（如向量量化变分自编码器（Vector Quantized-Variational AutoEncoder, VQ-VAE））从离群点中学习到一个显著的模态。为缓解该问题，我们提出一种基于 VQ-VAE 的鲁棒生成模型，命名为鲁棒 VQ-VAE（Robust VQ-VAE, RVQ-VAE）。为实现鲁棒性，RVQ-VAE 为内点（inliers）和离群点分别使用两个独立的码本。为确保码本嵌入正确的成分，我们在每个训练轮次中迭代更新内点与离群点的集合。为确保编码后的数据点匹配到正确的码本，我们使用加权欧几里得距离进行量化，其权重由码本的方向方差决定。两个码本与编码器、解码器一起，根据重构损失和量化损失联合训练。我们通过实验证明，即使训练数据点中很大一部分受到污染，RVQ-VAE 仍能够从内点生成样本。
引用
@article{arxiv.2202.01987,
title = {Robust Vector Quantized-Variational Autoencoder},
author = {Chieh-Hsin Lai and Dongmian Zou and Gilad Lerman},
journal= {arXiv preprint arXiv:2202.01987},
year = {2022}
}
备注
We found a bug in our code and we need to rework our method and it may take some time due to many future commitments. We need to remove the paper since its numerical results are based on a code with a mistake and the main claim of the paper follows from the numerical results