通过深度ReLU网络构造性生成通用高维分布
机器学习
2021-06-08 v2 机器学习
摘要
我们给出了一种显式的深度神经网络构造,可将一维均匀分布噪声转化为任意二维Lipschitz连续目标分布的任意接近近似。我们设计的关键要素是(Bailey & Telgarsky, 2018)中所发现锯齿函数的“空间填充”性质的推广。我们阐明了在我们神经网络构造中深度对于驱动目标分布与网络实现的近似之间的Wasserstein距离趋于零的重要作用。概述了向任意维输出分布的扩展。最后,我们表明所提构造相对于从个独立随机变量生成维目标分布,并未在以Wasserstein距离度量的误差方面产生额外代价。
引用
@article{arxiv.2006.16664,
title = {Constructive Universal High-Dimensional Distribution Generation through Deep ReLU Networks},
author = {Dmytro Perekrestenko and Stephan Müller and Helmut Bölcskei},
journal= {arXiv preprint arXiv:2006.16664},
year = {2021}
}