中文

生成模型的普适性定理

机器学习 2020-12-15 v2 人工智能 机器学习

摘要

尽管生成模型在实践中极为成功,但支撑这一现象的理论才刚刚开始赶上实践。在这项工作中,我们探讨了生成模型的普适性问题:神经网络是否真的可以任意好地逼近任何数据流形?我们对这一问题给出了肯定的回答,并表明在激活函数的温和假设下,总能找到一个前馈神经网络,将潜空间映射到距离指定数据流形在给定 Hausdorff 距离之内的一个集合上。我们还针对多类生成模型和循环生成模型(训练用于将样本从一个流形映射到另一个流形及反之)证明了类似的定理。

关键词

引用

@article{arxiv.1905.11520,
  title  = {Universality Theorems for Generative Models},
  author = {Valentin Khrulkov and Ivan Oseledets},
  journal= {arXiv preprint arXiv:1905.11520},
  year   = {2020}
}