用于生成对抗网络完整模式覆盖的岭杠杆分数采样
机器学习
2021-07-22 v3 机器学习
摘要
通常，机器学习模型最小化一个经验期望。结果，训练好的模型通常对大多数数据表现良好，但在数据集中密度较低的区域性能可能下降。该问题也出现在生成建模中。生成模型可能忽略经验数据分布中频率较低的欠表示模式。此问题被称为完整模式覆盖。我们提出一种基于岭杠杆分数的采样过程，与标准方法相比显著改善了模式覆盖，并且可轻松与任何 GAN 结合。岭杠杆分数通过使用与 GAN 判别器或预训练网络的倒数第二层相关的显式特征映射，或通过使用对应于高斯核的隐式特征映射来计算。针对近期完整模式覆盖方法的多次评估表明，使用所提采样策略时有明显改进。
引用
@article{arxiv.2104.02373,
title = {Leverage Score Sampling for Complete Mode Coverage in Generative Adversarial Networks},
author = {Joachim Schreurs and Hannes De Meulemeester and Michaël Fanuel and Bart De Moor and Johan A. K. Suykens},
journal= {arXiv preprint arXiv:2104.02373},
year = {2021}
}