生成模型的普适性定理
机器学习
2020-12-15 v2 人工智能
机器学习
摘要
尽管生成模型在实践中极为成功,但支撑这一现象的理论才刚刚开始赶上实践。在这项工作中,我们探讨了生成模型的普适性问题:神经网络是否真的可以任意好地逼近任何数据流形?我们对这一问题给出了肯定的回答,并表明在激活函数的温和假设下,总能找到一个前馈神经网络,将潜空间映射到距离指定数据流形在给定 Hausdorff 距离之内的一个集合上。我们还针对多类生成模型和循环生成模型(训练用于将样本从一个流形映射到另一个流形及反之)证明了类似的定理。
引用
@article{arxiv.1905.11520,
title = {Universality Theorems for Generative Models},
author = {Valentin Khrulkov and Ivan Oseledets},
journal= {arXiv preprint arXiv:1905.11520},
year = {2020}
}