通过隐变量恢复检测深度生成网络的过拟合
机器学习
2019-01-14 v1 机器学习
摘要
最先进的深度生成网络能够生成逼真到令人怀疑其记忆了训练图像的图像。因此，常会附上训练集最近邻的可视化，以暗示生成图像并非简单记忆。我们证明这并不充分，并促使人们以更审慎的态度研究深度生成器的记忆/过拟合问题。本文通过以下方式解决该问题：i) 展示简单损失如何对深度生成器图像实现高度有效的重建；ii) 分析重建训练图像与验证图像时重建误差的统计特性，这是机器学习中分析过拟合的标准方法。利用该方法，本文表明文献中提出的纯 GAN 模型不可检测过拟合，而使用混合对抗损失的模型（应用最广泛的生成方法之一）则不同。本文还表明标准 GAN 评价指标未能捕捉某些深度生成器的记忆现象。最后，本文展示了如何利用所提重建方法，在无混合对抗损失的情况下，将现成的 GAN 生成器成功应用于人脸修复与人脸超分辨率。
引用
@article{arxiv.1901.03396,
title = {Detecting Overfitting of Deep Generative Networks via Latent Recovery},
author = {Ryan Webster and Julien Rabin and Loic Simon and Frederic Jurie},
journal= {arXiv preprint arXiv:1901.03396},
year = {2019}
}