抑制生成对抗网络过拟合的数值数据扩充方法
机器学习
2020-10-27 v1 网络与互联网体系结构
摘要
在近期研究中，生成对抗网络(GAN)是扩充图像数据集的流行方案之一。然而，我们的研究发现GAN中的生成器G难以在低维空间中生成数值数据，且我们着手解决生成中的过拟合问题。通过分析有向图模型(DGM)，我们提出一种理论约束——对损失函数的独立性，以抑制过拟合。实践中，我们提出静态约束GAN(SRGAN)与动态约束GAN(DRGAN)两种框架，将理论约束应用于网络结构。在静态结构中，我们预定义一对特定的G与D网络拓扑作为约束，并通过可解释度量约束相似度(SR)量化该约束。而对于DRGAN，我们设计了一个可调丢弃模块作为约束函数。在广泛开展的20组实验中，基于四个公开数值类不平衡数据集与五个分类器，静态与动态方法共同在20组中的19组取得最佳扩充结果；且两种方法同时在20组中的14组生成了前2佳结果，证明了理论约束的有效性与可行性。
引用
@article{arxiv.2010.13549,
title = {Restrained Generative Adversarial Network against Overfitting in Numeric Data Augmentation},
author = {Wei Wang and Yimeng Chai and Tao Cui and Chuang Wang and Baohua Zhang and Yue Li and Yi An},
journal= {arXiv preprint arXiv:2010.13549},
year = {2020}
}