神经网距离的最小最大估计
机器学习
2018-11-06 v1 信息论
math.IT
机器学习
摘要
为训练生成对抗网络（GANs）而提出的一类重要距离度量是积分概率度量（IPM），其中神经网距离通过两个神经网络刻画了实际的GAN训练。本文研究基于从分布中抽取的样本对神经网距离的最小最大估计问题。我们给出了神经网距离估计误差的首个已知最小最大下界，以及比现有经验神经网距离估计误差上界更紧的上界。我们的下界与上界不仅在样本量阶上匹配，而且在神经网络参数矩阵范数方面也匹配，这证明了经验神经网距离可作为真实神经网距离在实践训练GANs中的良好近似。
引用
@article{arxiv.1811.01054,
title = {Minimax Estimation of Neural Net Distance},
author = {Kaiyi Ji and Yingbin Liang},
journal= {arXiv preprint arXiv:1811.01054},
year = {2018}
}
备注
To appear in Proc. NIPS 2018