深度生成模型中的伪样本：缺陷还是特性？
机器学习
2018-10-05 v1 机器学习
摘要
生成建模文献中的传统观点是，模型可能生成的伪样本是错误，应当避免。然而，近期的研究显示出对研究甚至利用此类样本而非消除它们的兴趣。在本文中，我们提出一个问题：是否可以在不牺牲生成分布覆盖度的前提下彻底消除此类样本。对于我们考虑的一类模型，我们通过实验证明，若不丧失对部分测试样本建模的能力，这是不可能的。尽管我们的结果需要在更广泛的模型族上得到确认，这些初步发现提供了部分证据，表明伪样本与所学数据集共享结构特性，这反过来说明它们并非简单的错误，而是深度生成网络的一个特性。
引用
@article{arxiv.1810.01876,
title = {Spurious samples in deep generative models: bug or feature?},
author = {Balázs Kégl and Mehdi Cherti and Akın Kazakçı},
journal= {arXiv preprint arXiv:1810.01876},
year = {2018}
}