中文

生成对抗网络用于密度估计的收敛速率

统计理论 2024-01-26 v4 机器学习 统计理论

摘要

本工作中我们对原始生成对抗网络(GANs)的非渐近性质进行了深入研究。我们证明了 underlying 密度 p\mathsf{p}^* 与 GAN 估计之间的 Jensen-Shannon (JS) 散度的 oracle 不等式,其统计误差项显著优于先前已知结果。我们界的好处在于应用于非参数密度估计时变得清晰。我们表明,GAN 估计与 p\mathsf{p}^* 之间的 JS 散度衰减得如同 (logn/n)2β/(2β+d)(\log{n}/n)^{2\beta/(2\beta + d)},其中 nn 为样本量,β\beta 决定 p\mathsf{p}^* 的光滑性。该收敛速率(直至对数因子)与所考虑密度类的最小最大最优速率一致。

关键词

引用

@article{arxiv.2102.00199,
  title  = {Rates of convergence for density estimation with generative adversarial networks},
  author = {Nikita Puchkin and Sergey Samsonov and Denis Belomestny and Eric Moulines and Alexey Naumov},
  journal= {arXiv preprint arXiv:2102.00199},
  year   = {2024}
}

备注

To appear in Journal of Machine Learning Research