基于聚类的深度生成模型课程学习
机器学习
2019-09-27 v2 计算机视觉与模式识别
机器学习
摘要
对于含噪数据，训练生成对抗网络（GAN）等生成模型具有挑战性。本文提出了一种新颖的、与聚类相关的课程学习算法来解决这一问题。课程的构建基于数据点中底层聚类的中心性。中心性高的数据点在训练期间优先被馈入生成模型。为使我们的算法可扩展至大规模数据，设计了主动集，即每一轮训练仅在一个主动子集上进行，该子集包含一小部分已训练数据和中心性较低的增量数据。此外，还给出了几何分析，以解释聚类课程对生成模型的必要性。在猫和人脸数据上的实验验证了，对于含噪数据，我们的算法能够学习到在指定质量度量下最优的生成模型（例如 ProGAN）。一个有趣的发现是，最优聚类课程与本文中公式化的几何逾渗过程的临界点密切相关。
引用
@article{arxiv.1906.11594,
title = {Curriculum Learning for Deep Generative Models with Clustering},
author = {Deli Zhao and Jiapeng Zhu and Zhenfang Guo and Bo Zhang},
journal= {arXiv preprint arXiv:1906.11594},
year = {2019}
}