双向 GAN 的非渐近误差界
机器学习
2021-10-26 v1 统计理论
机器学习
统计理论
摘要
在模型所用神经网络架构适当指定的条件下，我们针对潜变量联合分布与数据联合分布之间的 Dudley 距离，推导了双向 GAN（BiGAN）估计误差的近乎紧的界。据我们所知，这是对双向 GAN 学习方法的首个理论保证。我们结果的一个吸引人之处在于，不要求参考分布与数据分布具有相同的维数，也不要求这些分布具有有界支撑。这些假设在现有单向 GAN 的收敛分析中常被采用，但在实践中可能不满足。若目标分布假设为有界支撑，我们的结果也适用于 Wasserstein 双向 GAN。为证明这些结果，我们构造了将经验分布推前至另一不同维数空间上任意经验分布的神经网络函数。我们还提出了一种用于双向 GAN 误差分析的积分概率度量新分解。这些基本理论结果具有独立意义，可应用于其他相关学习问题。
引用
@article{arxiv.2110.12319,
title = {Non-Asymptotic Error Bounds for Bidirectional GANs},
author = {Shiao Liu and Yunfei Yang and Jian Huang and Yuling Jiao and Yang Wang},
journal= {arXiv preprint arXiv:2110.12319},
year = {2021}
}
备注
Corresponding authors: Yunfei Yang ([email protected]), Jian Huang ([email protected]), Yuling Jiao ([email protected])